Искусственный интеллект компании OpenAI вышел из-под контроля и устроил кибератаку

Создатель чатбота ChatGPT, компания OpenAI, признала, что программа, работающая на базе ее новейших моделей искусственного интеллекта (ИИ), в ходе теста на безопасность вышла из-под контроля и взломала систему другой фирмы-стартапа.

Согласно опубликованному во вторник заявлению OpenAI, на прошлой неделе, в ходе проверки в контролируемой среде, ее агент — программа, способная действовать самостоятельно по заданию человека и в данном случаче работающая на базе передовых моделей ИИ — сумел вырваться за рамки теста.

Затем он взломал Hugging Face, один из крупнейших в мире хабов обмена моделями ИИ, и вошел во внутренние системы компании.