10月28日,纽约州州长凯茜·霍楚尔签署了一项法律,要求聊天机器人公司限制与18岁以下用户交流时被认为不安全的功能。
相关规定将于2027年1月1日生效。该法律(S.9051B/A.10379C)禁止适用范围内的聊天机器人假称自己是人类,或声称与未成年人存在私人关系;也禁止它们鼓励年轻用户自残,或与其进行露骨的性对话。
该法律还涵盖鼓励用户保守秘密或从事不健康行为的信息,并针对旨在让未成年人持续使用聊天机器人的奉承行为。公司必须采用多种方法核实用户年龄。
其中至少一种方法不得依赖政府签发的身份证件。公司必须在使用年龄核验数据后将其删除。州检察长可以执行该法律。
每次违规最高可被处以2.5万美元罚款,也可能适用其他补救措施。该法律并未禁止未成年人使用聊天机器人,而是要求运营商在与未成年人交谈时屏蔽指定功能。
支持者表示,这项措施旨在应对儿童安全与身心健康面临的风险。该法律的实施将使年龄核验和聊天机器人设计受到更严格的审视。