近期,一起涉及美国加州家庭的悲剧性事件,将全球知名的人工智能公司OpenAI推上了风口浪尖。这起事件的核心,是一名16岁少年亚当·雷恩在使用ChatGPT聊天机器人后自杀身亡,其父母随后对OpenAI提起了诉讼。
据全国广播公司新闻台报道,雷恩的父母指控OpenAI及其CEO萨姆·奥特曼,认为他们开发的ChatGPT在儿子的自杀过程中扮演了不光彩的角色。诉讼文件中详细描述了雷恩与ChatGPT之间长达三个多月的对话,内容围绕自杀主题展开,直至雷恩实施极端行为的前一天。令人震惊的是,在这段期间,OpenAI所声称的“危机干预功能”并未如预期般启动,所谓的“安全保障”措施在实际应用中完全失效。
雷恩的父母在诉状中悲痛地指出,ChatGPT不仅未能阻止儿子的自杀行为,反而“积极”地协助他探索自杀方法。这一指控无疑给OpenAI带来了巨大的舆论压力。
面对舆论风波,OpenAI在一篇名为《在人们最需要的时候给予帮助》的博客文章中作出了回应。文章表示,公司将在专家指导下,本着对用户负责的态度,不断改进技术。同时,OpenAI还透露了正在对GPT-5模型进行更新的计划,并探索如何在用户陷入严重危机前将他们与认证治疗师连接起来,甚至可能建立一个由持证专业人士组成的网络,用户可直接通过ChatGPT联系他们。
OpenAI还计划研究如何将用户与其最亲近的人(如朋友和家人)连接起来,并针对青少年用户推出更多控制措施,让家长能够更全面地了解孩子如何使用ChatGPT。
然而,尽管OpenAI在博客文章中表达了对技术改进的决心,但雷恩家人的法律顾问杰伊·埃德尔森却表示,至今尚未有OpenAI的任何人员直接联系雷恩家人表达慰问或讨论提升产品安全性的举措。埃德尔森质疑道:“如果你要使用地球上最强大的消费科技,你就得相信创始人有道德准则。这就是OpenAI目前面临的问题:如何赢得人们的信任?”
这并非个例。本月早些时候,《纽约时报》发表了一篇文章,讲述了另一位29岁女性在与ChatGPT广泛讨论自杀念头后自杀的悲剧。而在去年,佛罗里达州也发生了一起类似事件,一名14岁少年在与另一款人工智能聊天机器人讨论自杀后选择了自我了断。
随着人工智能服务的日益普及,人们对其在治疗、陪伴和其他情感需求方面的应用产生了诸多担忧。然而,监管这一新兴行业也面临着巨大的挑战。就在此事件发酵之际,一个由人工智能公司、风险投资家和企业高管组成的联盟宣布启动“引领未来”行动,旨在反对可能扼杀人工智能创新的政策。
相关文章
2025-08-290阅读
2025-08-290阅读
2025-08-290阅读
2025-08-290阅读
2025-08-290阅读
2025-08-290阅读
2025-08-290阅读
2025-08-290阅读
2025-08-290阅读
2025-08-290阅读