无人机在麦田喷洒农药。
人工智能 (AI) 正处于推动农业革命的风口浪尖，并有助于应对以可持续方式养活不断增长的全球人口的挑战。但研究人员警告说，大规模使用新的人工智能技术会带来巨大的风险，而这些风险并未得到考虑。
想象一片延伸到地平线的麦田，用来种植面粉，这些面粉将被制成面包，为城市的人们提供食物。想象一下，耕种、种植、施肥、监控和收割这片土地的所有权力都被委托给了人工智能：控制滴灌系统、自动驾驶拖拉机和联合收割机的算法，足够聪明，可以对天气和天气做出反应。作物的确切需求。然后想象一个黑客把事情搞砸了。
最近发表在自然机器智能杂志上的一项新的风险分析 ，警告说，未来在农业中使用人工智能会给农场、农民和粮食安全带来巨大的潜在风险，而这些风险却鲜为人知。
“智能机器经营农场的想法不是科幻小说。大公司已经在开创下一代自主农业机器人和决策支持系统，这些系统将在该领域取代人类，”剑桥大学存在风险研究中心 (CSER) 的 Asaf Tzachor 博士说，他是该研究的第一作者。论文。
“但到目前为止，似乎没有人问过‘农业人工智能的快速部署是否存在任何风险？’”他补充道。
作者认为，尽管人工智能在改善作物管理和农业生产力方面有着巨大的前景，但必须以负责任的方式解决潜在风险，并在实验环境中对新技术进行适当测试，以确保它们是安全的，并能防止意外故障、意外后果和网络攻击。说。
在他们的研究中，作者提出了在负责任地开发农业人工智能时必须考虑的风险目录以及解决这些风险的方法。在其中，他们警告网络攻击者可能会通过使用人工智能、毒化数据集或关闭喷雾器、自主无人机和机器人收割机来破坏商业农场。为了防止这种情况，他们建议“白帽黑客”帮助公司在开发阶段发现任何安全漏洞，从而保护系统免受真正的黑客攻击。
在与意外失败相关的情况下，作者建议，一个仅在短期内提供最佳作物产量的人工智能系统可能会忽略实现这一目标的环境后果，从而导致长期过度使用化肥和土壤侵蚀。为追求高产而过度使用杀虫剂可能会毒害生态系统；过量施用氮肥会污染土壤和周围的水道。作者建议让应用生态学家参与技术设计过程，以确保避免这些情况。
自主机器可以改善农民的工作条件，减轻他们的体力劳动。但如果没有包容性的技术设计，目前在全球农业中根深蒂固的社会经济不平等——包括性别、阶级和种族歧视——将继续存在。
Tzachor 警告说：“不考虑劳动力投入复杂性的专家人工智能农业系统将忽略并可能维持对弱势社区的剥削。”
各种农业机器人和先进机械（如无人机和传感器）已被用于收集作物信息并支持农民的决策：例如检测疾病或灌溉不足。自动驾驶联合收割机无需人工操作即可收割庄稼。这种自动化系统旨在提高农业生产效率、节省劳动力成本、优化生产并最大限度地减少损失和浪费。这导致农民收入增加以及对农业人工智能的更大依赖。
然而，在全球范围内种植大部分农场并为所谓的全球南方大片地区提供食物的小规模种植者可能会被排除在与人工智能相关的利益之外。边缘化、互联网普及率低以及数字鸿沟可能会阻止小农使用先进技术，从而扩大商业农民和自给农民之间的差距。
估计有 20 亿人受到粮食不安全的困扰，其中包括约 6.9 亿营养不良和 3.4 亿儿童缺乏微量营养素，面对气候变化和全球人口增长，人工智能技术和精准农业有望为粮食和营养安全带来巨大好处.
“人工智能被誉为革新农业的方式。当我们大规模部署这项技术时，我们应该密切考虑潜在风险，并力求在技术设计的早期就减轻这些风险，”CSER 执行董事兼新研究的合著者 Seán Ó hÉigeartaigh 博士说。
参考：“负责任的农业人工智能需要系统地了解风险和外部性”，作者：Asaf Tzachor、Medha Devare、Brian King、Shahar Avin 和 Seán Ó hÉigeartaigh，2022 年 2 月 23 日，Nature Machine Intelligence .
DOI：10.1038/s42256-022-00440-4
本研究由 Templeton World Charity Foundation, Inc. 资助。
