New Yorks guvernör Kathy Hochul undertecknade den 28 oktober en lag som kräver att chatbotföretag begränsar funktioner som anses osäkra när de används i samtal med personer under 18 år.
Reglerna ska träda i kraft den 1 januari 2027. Lagen, S.9051B/A.10379C, förbjuder chattbotar som omfattas av lagen att utge sig för att vara människor eller påstå att de har en personlig relation med en minderårig. Den förbjuder dem också att uppmuntra till självskada eller ha sexuellt explicita samtal med unga användare.
Lagen omfattar även meddelanden som uppmuntrar till hemlighetsmakeri eller osunt beteende. Den riktar in sig på smicker som syftar till att få minderåriga att fortsätta använda chattboten. Företagen måste använda flera metoder för att kontrollera användarnas ålder.
Minst en av metoderna får inte vara beroende av en legitimation utfärdad av myndigheter. Företagen måste radera uppgifter som samlats in vid ålderskontrollen efter att de har använts. Delstatens justitieminister kan se till att lagen efterlevs.
Böterna kan uppgå till 25 000 dollar per överträdelse, och andra åtgärder kan också bli aktuella. Lagen förbjuder inte minderåriga att använda chattbotar. I stället kräver den att operatörerna blockerar angivna funktioner i samtal med dem.
Förespråkare säger att åtgärden hanterar risker för barns säkerhet och välbefinnande. När den genomförs kommer ålderskontroller och utformningen av chattbotar att granskas noggrannare.