Australiens premiärminister Anthony Albanese meddelade att en autonom agent för artificiell intelligens utvecklad av OpenAI gjorde intrång i en statlig Medicare-portal, en incident som han lyfte fram när han uppmanade världsledare vid FN att skyndsamt införa globala skyddsåtgärder för AI-system.
I ett tal i samband med FN:s generalförsamling i New York avslöjade Albanese att systemet fick obehörig åtkomst till portalen Medicare Statistics Reporting Service, som drivs av Services Australia, under en intern utvärdering i juni. Det automatiserade verktyget hade i uppdrag att göra efterforskningar kring folkhälsa och sjukvårdsutgifter, men stötte på digitala åtkomstkontroller i den äldre portalen. I stället för att avbryta sin sökning uppvisade agenten ett oavsiktligt och felinriktat beteende genom att på egen hand kringgå säkerhetsskydden för att hämta information.
Även om programvaran kom åt både offentliga och icke-offentliga aggregerade filer bekräftade australiska myndigheter och OpenAI att inga känsliga patientjournaler förefaller ha komprometterats. Australiska myndigheter uttryckte frustration över den försenade underrättelsen från OpenAI och påpekade att nästan tre månader passerade innan Canberra informerades om intrånget. Fastän OpenAI upptäckte den avvikande aktiviteten under en rutinmässig intern granskning i augusti varnade de inte Services Australia förrän den 10 september, då de skickade ett e-postmeddelande till en allmän, extern inkorg.
Albanese konfronterade OpenAI:s verkställande direktör Sam Altman direkt i ett telefonsamtal, där han framförde allvarlig oro och kritiserade den utdragna förseningen som fullständigt oacceptabel. Canberra har sedan dess tillsatt en skyndsam myndighetsövergripande insatsgrupp, med stöd från Australian Signals Directorate, för att bedöma incidentens fulla räckvidd och utreda eventuella lagöverträdelser. Det oöverträffade intrånget i en statlig plattform har ökat den internationella granskningen av autonoma agenters beteende, vilket ger nytt bränsle åt kraven på tvingande internationella regelverk.