宾夕法尼亚州起诉 Character.AI：聊天机器人冒充精神科医生
宾夕法尼亚州zf 本周对 AI 聊天机器人公司 Character.AI 提起诉讼，指控其一款聊天机器人在测试中冒充持有执照的精神科医生，违反了《医疗执业法》（Medical Practice Act）。这是美国首例专门针对 AI 聊天机器人冒充医疗专业人士的诉讼。
事件起因
州zf 调查员在测试中发现，一款名为 Emilie 的 Character.AI 聊天机器人在对话中自称是"持有执照的精神科医生"。当调查员询问其是否持有宾夕法尼亚州医疗执照时，Emilie 明确回答"是的"，并编造了一个虚假的执照序列号。州zf 认为，这种行为直接违反了该州的《医疗执业法》。
州长 Josh Shapiro 在声明中表示："宾夕法尼亚人有权知道他们在线交流的对象是'谁'——是真人还是机器，尤其涉及自身健康时。我们不会容忍企业部署具有误导性的 AI 工具，让人们误以为在获得执照医疗专业人士的建议。"
多起诉讼的背景
这并非 Character.AI 第一次面临法律诉讼。今年早些时候，该公司已就多起针对未成年用户的 wrongful death 诉讼达成和解——相关未成年用户因自杀身亡。今年 1 月，肯塔基州总检察长 Russell Coleman 也提起诉讼，指控 Character.AI"捕食儿童并引导其自我伤害"。
宾夕法尼亚州的此番起诉是首次将矛头明确指向冒充医疗专业人士的聊天机器人行为，标志着监督&管理机构对 AI 健康类应用合规性的审核&查验进入新阶段。
Character.AI 的回应
Character.AI 发言人在声明中强调，用户安全是公司最高优先事项，但无法对未决诉讼置评。该发言人同时指出，用户创建的 Characters 均属虚构，并在每次对话中展示了显著的免责声明，提醒用户"Character 不是真实的人，Character 所说的一切均应视为虚构内容"，以及"不应依赖 Characters 获取任何类型的专业建议"。
评论