世卫组织对于使用人工智能进行医疗保健提出关切
人们似乎到处都在谈论和尝试ChatGPT。事实上，人工智能（AI）生成的大型语言模型工具（LLMs）正变得越来越受欢迎。然而，根据世界卫生组织（WHO）于5月16日发布的警告，当涉及到将这项技术用于与健康相关的目的时，应该谨慎行事。该组织还呼吁严格监督，以确保AI的使用是安全、有效和符合伦理的。
该组织表示：“虽然世卫组织对于适当使用技术（包括LLMs）来支持医疗保健专业人员、患者、研究人员和科学家持乐观态度，但担心对LLMs通常会对任何新技术进行的谨慎使用并不一致。”它提醒人们注意“未经测试系统的迅速采用”，这可能“会导致医护人员犯错，对患者造成伤害，破坏对AI的信任，从而削弱（或延迟）此类技术在全球范围内潜在的长期益处和用途”。
几个关切
世卫组织列出了几个关切，认为这些关切需要监督。第一个关切涉及用于训练AI的数据：它们“可能存在偏见，生成具有误导性或不准确信息，可能对健康、公平和包容性构成风险”。
第二个关切是关于LLMs生成的回应。虽然它们“对终端用户可能显得权威和可信”，但它们“可能完全错误或包含严重错误，特别是对于与健康相关的回应”。
AI工具处理个人数据引发了有关隐私和同意的问题，因为“LLMs可能在未事先获得同意的数据上进行训练，并且LLMs可能不会保护用户提供给应用程序以生成回应的敏感数据（包括健康数据）”。LLMs还可能“被误用来生成和传播令人信服的虚假信息，以文本、音频或视频内容的形式出现，这对公众来说很难与可靠的健康内容区分开来”。
世卫组织的建议
在5月16日的警报中，“世卫组织建议政策制定者确保患者安全和保护，同时技术公司致力于商业化LLMs。”
在该警报发布几年前，以及在这些工具爆炸性增长的一年前，世卫组织出版了《人工智能在健康领域的伦理与治理：世卫组织指南》。
这份2021年的报告指出了临床环境中无监管使用人工智能的风险，这些风险可能导致患者和社区的权益“被强大的技术公司的商业利益或政府的监视和社会控制利益所凌驾”。
报告还提到需要为医护人员提供数字技能培训，因为这将确保他们具备在做出临床决策时使用这些新技术所需的知识。
鉴于在过去6个月中已经推出了许多用户友好和直观的AI平台，所以许多人讨论了将这些工具融入临床实践的方式并不奇怪。
用户的评价 浏览量：
1
次 | 评论：0
条 | 好评：0
其他疾病相关文章
其他疾病文章
京公网安备 11010102003638号