加州新法案：聊天机器人必须明确告知用户其为 AI

加州在人工智能行业日益发展的背景下，于10月13日通过了一项新的法律，旨在保护用户在与聊天机器人互加州动时的权益。这项名为 “SB243” 的法案是由加州州长加文・纽森签署的，成为全国首个针对聊天机器人的安全规新法定。该法案由州参议员安东尼・帕迪拉提出，强调了对用户的透明度和安全性的必要性。

图源备注：图片由AI生成，案：图片授权服务商Midjourney

根据新法，聊天机器人开发者必须采取一系列的安全措施，其中最重要的一条是，如聊天果用户在与聊天机器人互动时可能会误以为是在与人类交流，那么开发者必须向用户发出 “清晰且显著的通知”机器，告知其实际是人工智能而非人类。此外，从明年开始，一些聊天机器人运营商还需要向加州自杀预防办公室提交年度人必报告，说明他们所采取的措施以识别、删除和回应用户可能出现的自杀念头。而该办公室也将把这些数据公开在其网站上须明，以便公众查询。

加州州长纽森在签署法案时表示，科技的快速发展可以激励、教育和连接人们，但缺乏有效的监管确告，科技也可能会利用、误导和危害儿童。为了保障孩子的安全，州政府需要在推进人工智能和科技的发展时，确保实施相知用应的责任和保护措施。他强调，“我们的孩子的安全不是可以交易的。”

这一消息发布之际，加州还同时通过了户其另一项具有里程碑意义的法案，即 “SB53”，该法案专注于人工智能的透明度，尽管这一法案在行业内引起了为 广泛的争议和讨论。

这项新法律的实施，标志着加州在人工智能领域的监管迈出了重要的一步，旨在确保技术的发展与AI用户的安全并行，尤其是在涉及到儿童的在线安全问题上。

划重点:

新法要求聊天机器人开发者必须通知用户其为 AI加州，而非人类。

聊天机器人运营商需向自杀预防办公室提交年度报告，关注用户心理健康。

加州政府强调在推动科技发展新法的同时，必须保护儿童的安全。