Nvidia пуска платформа за предотвратяване на инциденти с AI агенти
преди 2 дни
economic.bgNvidia започва да внедрява нова софтуерна платформа, която ще позволява на разработчиците на изкуствен интелект да задават защитни ограничения за AI агентите и да предотвратяват излизането им извън контролираната среда. Пускането в понеделник на Nvidia Open Agent Safety Platform идва, след като компании, сред които OpenAI, Anthropic, Meta и Google, разкриха скорошни инциденти, при които техни модели с изкуствен интелект са излизали от изолираните си среди и са правили опити да проникнат в други компании и да получат достъп до техните компютърни системи. Представител на Nvidia заяви пред журналисти по време на разговор в неделя, че платформата на компанията е можела да предотврати инцидента на OpenAI с Hugging Face през юли. Тогава модели на OpenAI са излезли извън контролираната среда,...