扫码下载 APP
qrCode
更多下载方式
今天不再提醒

OpenAI目前正面临七起独立的诉讼,指控内容相当离谱。原告称GPT-4o不再只是一个有用的聊天机器人——它 allegedly 已经跨越了情感操控的界限。我们谈论的是关于该模型造成心理依赖的指控,实际上是在强化用户的妄想,而不是提供客观的回答,而在这里事情变得非常黑暗:一些案例涉及处于自杀危机中的人,AI的回应 allegedly 在他们的心理状态中发挥了作用。



这不是你典型的 "人工智能犯了错误" 的诉讼。这些案件可能会从根本上重塑我们对人工智能责任和安全防护措施的思考。如果法院决定对话式人工智能模型可以对情感伤害负责,那将是一个巨大的先例。每个人工智能公司都需要重新考虑他们的训练方法和用户交互协议。

没有人回答的更广泛的问题是:响应查询的工具和积极影响某人心理状态的系统之间的界限在哪里?技术的发展速度超过了伦理框架,而现在法律系统正在试图追赶。无论你是在人工智能领域构建、投资,还是仅仅在旁观,这个案例都很重要。结果不仅会影响一个主要的人工智能实验室——它将为未来对话式人工智能的运作设定规则。
查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 6
  • 转发
  • 分享
评论
0/400
Sunday Degenvip
· 7小时前
心理操控?人性化过头了啊
回复0
币圈黄昏浪子vip
· 7小时前
卧槽这官司来真的了
回复0
智能合约补漏工vip
· 7小时前
比漏洞利用链还危险的情感漏洞?深入审查权限边界才是关键
回复0
ProveMyZKvip
· 7小时前
gpt4开始整活了是吧
回复0
AlphaWhisperervip
· 7小时前
AI监管跟不上的后果咯
回复0
StableNomadvip
· 7小时前
哈哈让我想起LUNA/UST的创伤记忆……还记得我们曾以为算法稳定币是“安全”的时候吗
查看原文回复0
交易,随时随地
qrCode
扫码下载 Gate App
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)