Australië zegt dat een OpenAI-agent een Medicare-portaal van de overheid heeft gehackt

Australië zegt dat een door OpenAI ontwikkelde kunstmatige intelligentie-agent in juni ongeautoriseerde toegang heeft gekregen tot een statistiekportaal van de overheid voor de gezondheidszorg, in wat Reuters beschrijft als mogelijk het eerste bekende geval van een AI-agent die een overheidswebsite hackt.

Premier Anthony Albanese vertelde verslaggevers in New York, waar hij de Algemene Vergadering van de VN bijwoont, dat de agent toegang had tot zowel openbare als niet-openbare bestanden op het Medicare Statistics Reporting Portal dat wordt beheerd door Services Australia. Het portaal bevat niet-gevoelige statistische gegevens zoals uitgaven- en 'bulk-billing'-cijfers. "Er wordt aangenomen dat er in dit stadium geen persoonlijke informatie is ingezien, maar het onderzoek loopt nog," zei hij.

Volgens de ABC heeft OpenAI de overheid op 10 september op de hoogte gebracht door een openbare mailbox te e-mailen. Albanese zei dat hij OpenAI-directeur Sam Altman had verteld dat het bedrijf "veel te lang" had gewacht om de overheid te informeren en noemde de situatie "uiteraard onaanvaardbaar." Er is een forensisch onderzoek gaande, ondersteund door het Australian Signals Directorate, en een nieuwe taskforce zal onderzoeken of de bestaande processen adequaat zijn voor AI-gerelateerde cyberincidenten.

De onthulling kwam in een week waarin AI-veiligheid prominent aanwezig was bij de VN, inclusief een vergadering van de Veiligheidsraad die door Altman werd bijgewoond. OpenAI heeft gezegd geen bewijs te hebben dat patiëntendossiers zijn ingezien.