„Енвидиа“ представи платформа за предотвратяване на нежелано поведение на агенти с изкуствен интелект
преди 2 дни
paragrafa.comАмериканският технологичен производител „Енвидиа“ (Nvidia) представи нова софтуерна платформа, която позволява на разработчиците на изкуствен интелект да въвеждат защитни механизми за агенти с изкуствен интелект (ИИ), както и да не допускат системите да излизат извън определените им ограничения, съобщи Си Ен Би Си. Пускането днес на платформата „Оупън Ейджънт Сейфти Платформ“ (Open Agent Safety Platform) на „Енвидия“ се случва след като компании като „ОупънЕйАй“ (OpenAI), „Антропик“ (Anthropic), „Мета“ (Meta) и „Гугъл“ (Google) съобщиха за случаи, при които техни модели с изкуствен интелект са успели да излязат от изолирани среди и са се опитали да проникнат в системите на други компании и да получат достъп до компютърните им мрежи.