Модел на OpenAI се изплъзна самостоятелно и хакна компанията HuggingFace

Модел на OpenAI се изплъзна самостоятелно и хакна компанията HuggingFace

преди денcapital.bg

Компанията за изкуствен интелект (AI) OpenAI съобщи, че нейни модели с изкуствен интелект самостоятелно са атакували системи на друга компания. Това се е случило по време на тест за сигурност - AI агент е успял да се измъкне от ограниченията и се е свързал самостоятелно с интернет. Целевата организация е била Hugging Face, една от най-големите платформи за споделяне на модели с изкуствен интелект, като "рояк" от агенти са получили достъп до някои вътрешни системи на компанията. Атаката е довела ...