La gobernadora de Nueva York, Kathy Hochul, firmó el 28 de octubre una ley que exige a las empresas de chatbots limitar las funciones consideradas inseguras en las conversaciones con usuarios menores de 18 años.
Las normas entrarán en vigor el 1 de enero de 2027. La ley, S.9051B/A.10379C, prohíbe a los chatbots sujetos a ella presentarse como humanos o afirmar que mantienen una relación personal con un menor. También les prohíbe fomentar la autolesión o mantener conversaciones de contenido sexual explícito con usuarios jóvenes.
La ley también abarca los mensajes que fomentan el secretismo o las conductas poco saludables. También apunta a los halagos destinados a que los menores sigan usando el chatbot. Las empresas deben utilizar varios métodos para comprobar la edad de los usuarios.
Al menos uno de los métodos no debe depender de un documento de identidad emitido por el gobierno. Las empresas deben eliminar los datos de verificación de edad una vez utilizados. La fiscalía general del estado puede hacer cumplir la ley.
Las sanciones pueden alcanzar los 25.000 dólares por infracción, y también pueden aplicarse otras medidas correctivas. La ley no prohíbe que los menores usen chatbots. En cambio, exige a los operadores bloquear determinadas funciones en las conversaciones con ellos.
Quienes apoyan la medida afirman que aborda los riesgos para la seguridad y el bienestar de los niños. Su aplicación someterá a un mayor escrutinio los controles de edad y el diseño de los chatbots.