人工智能（AI）较为吸睛，但近日发表在BMJ子刊的一篇文章指出，AI的获益与风险远不清楚，或会给人类的健康与生存带来严重威胁。

尽管AI或会对人群健康产生负面影响，但目前大多数研究均显示AI好的一面，却未考虑避免其中可能产生危害的有效法规。

文章认为，AI对人类健康与福祉构成三个主要威胁：颠覆个体自由与隐私的社会准则、破坏社会和平与安全局面、取代个体谋生之道。

此外，文章指出，更为谨慎考虑新型AI技术的发展速度与设计是至关重要的，尤其是通用人工智能（Artificial general intelligence，AGI）。

AGI即像人一样思考、像人一样从事多种用途的智能。

文章指出，潜在的AGI改进自身代码的能力，可能意味着该技术最终会学会绕过人为决定的限制，并朝着自己的目的去发展。

而要紧的是，当前的社会、政治和法律环境还没有对潜在的灾难性风险与危害作出足够的法律与监管保障。这也是呼吁暂停AGI技术继续发展的原因之一。

诸如其他行业，医疗卫生人员也必须考虑到AI医学之外带来的风险与威胁。

AI在医学上的许多应用取决于对广泛个体数据的使用，但目前尚不能保证这种出于医疗目的而收集和使用数据的手段，不会变为更为广泛的、近乎持续的个人数据监控与收集的一部分，这对隐私、自主权和尊严构成了严重的威胁。

除了将个人数据交给强大的AI驱动系统使用风险外，还有个重要风险就是，医疗工作者将认知权威交给了机器的风险，这将使得医学缺乏人的温情，并破坏医务工作者的作用与价值。

滥用、轻率使用AI，同样也可能导致负面效果。

比如，AI可能会侵蚀人类独立的医疗判断，从而使得人类这种诊治技能丧失，甚至某些情况下还使得医务工作者变得多余。

AI系统的发展速度和规模还可能会增加临床错误的发生和扩大影响的范围，或使得医疗领域现有的社会不平等永远继续下去。

此外，在医疗服务中使用AI带来的问题还可能产生临床责任、问责和责任方的新的灰色地带。

作者指出，当前正在进入人工智能的新领域，但却在预测未来可能出现的不同情况，并为之制定的计划方法，却无所作为。

医务人员要兼顾AI促进医疗卫生的潜力，也要考虑到其中潜在需要的良性保障措施的需要。

来源：Federspiel F, Mitchell R, Asokan A, et al. Threats by artificial intelligence to human health and human existence. BMJ Glob Health. 2023 May;8(5):e010435.

转载： 请标明“中国循环杂志”

关于非法网站冒用我刊名义进行征稿的特别提醒

近期我们发现一些网站冒用“中国循环杂志”名义征稿，并承诺“职称论文权威快速发表”。

我刊郑重提醒各位作者，向《中国循环杂志》投稿，一定要登录中国循环杂志官方网站：

http://www.chinacirculation.org

进入“作者投稿”，在“作者投稿管理平台”中投稿。

本刊联系电话：010-68331974

订阅点击：

http://chinacirculation.org/WX/home/zxdy