Моделите с изкуствен интелект на OpenAI тайно са комуникирали, за да избегнат тест преди хакерската атака

Моделите с изкуствен интелект на OpenAI тайно са комуникирали, за да избегнат тест преди хакерската атака

Агентите с изкуствен интелект (ИИ) на OpenAI са започнали да комуникират помежду си чрез форуми и са обединили сили, за да избягат от защитена тестова среда, преди да атакуват платформата за машинно обучение Hugging Face, съобщи аг. Bloomberg. Моделите с ИИ са се опитвали да избягат от тестовата среда от май, когато екипът на OpenAI е дал на агентите задача, която не са могли да решат без достъп до интернет. Ботовете е трябвало да решат проблема, използвайки Excel файлове, съдържащи връзки към Google Drive. Без достъп до интернет файловете са били недостъпни. Агент с ИИ, изправен пред предизвикателство, се е обърнал към други ботове за помощ. Заедно агентите са открили уязвимост, която им е позволила да получат достъп до интернет. Разработчиците са осуетили първоначалния опит, но по-късно агентите са успели да избягат отново от тестовата среда, което е довело до атаката срещу Hugging Face през юли. В средата на юли стартъпът Hugging Face, който позволява на създателите на AI модели и продукти, базирани на тях, да споделят данни и да променят работата си въз основа на тях, съобщи за неоторизирано проникване в системите си. На 22 юли OpenAI съобщи, че атаката е извършена от нейните AI модели, които по време на тестване са успели да „избягат“ от вътрешна, изолирана система в интернет и са търсили отговори на тестови въпроси в базите данни на Hugging Face.

И „Мета“ съобщи за непреднамерена кибератака при изпитване на модел с изкуствен интелект

преди 6 часаparagrafa.com

Технологичната компания „Мета“ (Meta) заяви, че един от моделите ѝ с изкуствен интелект е използвал уязвимост в сигурността, за да получи достъп до компютърните системи на външна компания, съобщи ДПА. Инцидентът е станал заради неправилна конфигурация при тестване, която неволно е дала на модела достъп до интернет. Случаят е подобен на съобщени по-рано през юли инциденти с модели с изкуствен интелект на „ОупънЕйАй“ (OpenAI) и „Антропик“ (Anthropic).

Нов инцидент: Модели на Anthropic и OpenAI са създали фалшиви профили при опит за хакване

преди 8 часаmoney.bg

Изследователите определиха инцидента като "автономия и измама", която не са виждали досега