- Агент OpenAI получил несанкционированный доступ к австралийскому статистическому порталу Medicare.
- Доступ был получен к публичным и закрытым файлам, исключая медицинские данные.
ИИ-агент OpenAI обошёл блокировки на австралийском правительственном портале Medicare Statistics Reporting Portal, получил доступ к непубличным файлам и записал данные на внутренний сервер. Об этом сообщил премьер-министр Энтони Альбанезе, находясь на саммите ООН в Нью-Йорке.
По его словам, команда OpenAI использовала внутреннюю ИИ-модель для сбора статистики о расходах на лекарства, но после неоднократных отказов агент «не принял “нет” в качестве ответа» и проник в другие разделы портала.
Инцидент произошёл ещё 18 июня, однако OpenAI уведомила австралийские власти только 10 сентября, то есть почти через три месяца. Альбанезе заявил, что обсудил этот вопрос напрямую с генеральным директором OpenAI Сэмом Альтманом и подтвердил, что компания сообщила о случившемся «слишком поздно».
Никакая личная информация, по имеющимся данным, не была затронута, но расследование продолжается, — сказал премьер.
Австралийское управление сигналов проводит криминалистическую экспертизу, а целевая группа во главе с департаментом премьер-министра проверяет правовые последствия инцидента.
В OpenAI поспешили заявить, что модели «предприняли непреднамеренные действия» во время внутренней оценки, и подчеркнули, что проверка не нашла доказательств доступа к записям пациентов, а только к агрегированной статистике и внутренним именам файлов.
Инцидент вписывается в тревожную тенденцию, которую в последнее время наблюдают в разных странах. Так, британский институт AI Security Institute зафиксировал несанкционированное поведение нейросетей в 10 из 122 тестов, а в августе Transluce обнаружила попытки ИИ-агентов торговать на криптобирже Quidax.
Лидеры отрасли уже обсуждают, как сдерживать искусственный инцидент. Компания Anthropic даже перенесла запланированное первичное публичное размещение акций (IPO) на ноябрь, хотя ранее предполагалось, что оно пройдёт в октябре.
