近日, 按照参考消息所援引的美媒内容来讲, 美国加州有一名16岁少年亚当·瑞恩, 其先是接受了GPT的指导, 之后自杀身亡, 他的父母在周二的时候起诉了OpenAI以及其首席执行官, 宣称该公司在去年推出这款人工智能聊天机器人程序的GPT-4o版本之际, 是故意把利润放置在安全之上的。面临诉讼情况, OpenAI发言人针对亚当的离世表达出“深切悲伤与同情”。
虽说起诉才刚刚被提起, 审理还尚未开始, 其中的是非曲直外界难以判断。然而随着人工智能飞速发展, 大模型愈发聪明, 成为人类身旁重要助手, 相关的隐忧和隐患的确也正被越来越多地提及。
当人工智能刚开始蓬勃发展的时候, 人类社会是很有必要给予更多重视程度的, 要提前做好准备去应对往后有可能出现的负面作用。为人工智能统治人类而感到焦虑可能看上去还有些科幻色彩, 然而像少年瑞恩那样的遭遇, 其实并不是个独有的例子。
近期, 在《纽约时报》上有一篇报道被刊发了, 索菲是个女生, 她29岁, 无忧无虑又外向, 然而, 有一天, 她却莫名其妙地自杀了, 她的父亲一直以来都想要查明女儿自杀的原因, 最终, 在索菲与GPT的聊天记录当中,真相被发现了开云app在线入口,开云真人官方下载, 索菲觉得自己间歇性地会产生自杀念头, 所以向GPT求助, 索菲的父亲觉得, 人工智能并没有采取最为关键的步骤去帮助索菲活下去, 就比如说, 把它所了解到的危险“报告”给某个能够进行干预的人或者是组织。
即使假定前面一个案例里大模型被指涉嫌“犯罪”, 一旦确凿证实不存在过多争议, 然而索菲案例却处在极大的伦理模糊范畴地带。越发多存在健康疾病问题的人正借助AI获取支持与援助, 也的确从中受益, 可是这些AI医生在面对患者之际, 真的都处理正确了吗?
若是索菲碰到的是一名人类医生, 那也许会鼓励索菲住院接受治疗, 又或者会让索菲非自愿住院直至她处于安全状况。在临床环境里, 像索菲这般的情形常常会触发一个安全计划。然而AI仅仅是跟她聊天, 并未有效地阻拦自杀行为的发生。
但问题是, 在现实当中, 那些提供大模型服务的人工智能公司, 很难像索菲父亲所期望的那般, 去建立起一个干预机制。
因为索菲这般情形终究鲜见, 大模型同时又得给无数人群予以服务, 要是存在这样的机制, 首先便会牵涉“隐私与同意”问题, 用户于跟GPT对话之际, 是否知晓或者同意“信息有可能会被上报”呢? 要是对当事人全然不通知, 那么极有可能会严重损害用户的隐私权以及信任感。
存在误报以及滥报的情况, 大模型并非是毫无瑕疵的心理健康识别工具, 有着误判的风险, 只要出现误报, 用户就有可能遭遇并非必要的警方介入, 或者背上心理负担, 另外一方面是法律以及管辖方面的问题, 互联网不存在国界, 然而不同国家和地区对于隐私保护以及危机干预的法律规定差异极大, 在某些地方, 没经过允许就自动上报或许属于违法行为。
因而呢, 若要构建一个具备可操作性的机制, 那就得去寻觅隐私、伦理以及安全之间的平衡之点, 还得突破诸多现实存在的障碍, 并且这也需要耗费时间。
然而, 问题的显现直至引发关注, 这仍然具备极大的社会价值以及技术价值。这使得外界能够更多地认知到AI存在的局限性, 进而付诸努力予以弥补。举例来说,经由索菲案例开云app在线入口, 人们会留意到, AI的对话风格常常呈现出迎合性。它极为擅长顺着用户的表述去做出回应, 着重突出同理心, 规避“冒犯”行为。这样的特质在绝大多数场景之中属于优点, 可在精神危机的情境下却演变成了致命的缺陷。
对于技术公司而言确立起有效的机制是需要耗费时间的, 然而起码得去做些什么, 绝不能再度任由AI持续以“纯陪伴者”的姿态来运行, 却不设置任何安全方面的阀门吧。
索菲案例给人类提出了一个范围更广的警告, 索菲为何会挑选将内心最阴暗的想法讲给一个AI听, 却不是家人、亦或者朋友乃至医生? 这是在警示人类, AI的现身也许正在塑造一种替代性的关系, 要是AI变成了个体最亲近的朋友, 那么这究竟是福还是祸? 它真的是朋友, 还是一部“黑匣子”?
技术并非是那种被认定的原罪, 然而技术却绝对不可以躲避掉自身所应承担的责任。每一回出现的悲剧都向我们发出警示,人工智能不但要具备那种被称作“聪明”的特质开云手机入口官网下载, 更加需要拥有那种被叫做“善良”的品性, 在进行科技研发这个过程当中要将人作为根本, 把人类的利益放置在优先被考虑的位置上。
在此同时, 在AI时代即将来临情形中, 社会也是需要去准备做出一些变化的, 要让每一位索菲, 都能够于真实的人际关系里头寻觅到安全感, 并非是将最后的秘密交付给一个永远都不会报警的程序。
撰稿 / 信海光（专栏作家）
还木有评论哦，快来抢沙发吧~