得州总检察长调查 Meta 和 Character.AI
得克萨斯州总检察长肯・帕克斯顿已于周一发布新闻稿,宣布对 Meta 人工智能工作室(Meta AI Studio)和 Character.AI 展开调查,理由是这两家公司 “可能存在欺骗性贸易行为,并将自身误导性地宣传为心理健康工具”。 “在当今数字时代,我们必须持续努力保护得州儿童免受欺骗性和剥削性技术的伤害,” 新闻稿援引帕克斯顿的话称,“人工智能平台通过伪装成情感支持来源,可能会误导易受影响的用户,尤其是儿童,让他们误以为自己正在接受合法的心理健康服务。但实际上,这些平台往往提供的是经过循环利用的通用回应,这些回应是根据收集到的个人数据设计的,却被伪装成治疗建议。” 此次调查发生在参议员乔希・霍利宣布对 Meta 展开调查的几天后。此前有报告发现,Meta 的人工智能聊天机器人与儿童存在不当互动,包括调情行为。 得州总检察长办公室指控 Meta 和 Character.AI 打造的人工智能角色 “冒充专业治疗工具,尽管它们缺乏正规的医疗资质或监管”。 在 Character.AI 平台上数百万个人工智能角色中,一个名为 “心理学家”(Psychologist)的用户创建机器人在该...

