Бил Гейтс: ИИ може да погуби огромен брой хора

Бил Гейтс: ИИ може да погуби огромен брой хора

преди 2 часаfakti.bg

Според съоснователя на „Майкрософт" Бил Гейтс изкуственият интелект (ИИ) би могъл да доведе до смъртта на значителна част от човечеството. „Няма съмнение, че изкуственият интелект е достатъчно мощен, за да предизвика събития, които биха могли да доведат до смъртта на един милиард души“, заяви той пред NBC News в петък, 25 септември, във връзка с неотдавнашните предупреждения от страна на разработчици на изкуствен интелект за риск от изчезване на човечеството. Гейтс изрази мнението, че никога досега в историята не е съществувало „оръжие, толкова мощно, колкото хора със злонамерени намерения, използващи най-новите инструменти на изкуствения интелект“. Същевременно той отбеляза, че пълното унищожаване на човечеството „би било доста трудно“. Гейтс: "Саморегулирането няма да е достатъчно" Предвид тези сериозни рискове, 70-годишният бизнесмен се обяви за законодателно регулиране на тези технологии. Той заяви, че е абсолютно наложително във Вашингтон да бъдат приети подходящи закони. Гейтс призова изпълнителната власт и законодателите да постигнат съгласие относно задължителни мерки за безопасност и механизми за контрол върху технологията, като отбеляза: „Никой не вярва, че саморегулирането ще бъде достатъчно“. Водещи разработчици на технологии с ИИ, като Anthropic и OpenAI (създателят на ChatGPT), вече призоваха да бъде забавено темпото на развитие на изкуствения интелект. ИИ излиза извън човешкия контрол Тези предупреждения идват на фона на увеличението на случаите на автономни хакерски атаки, извършвани от системи с изкуствен интелект. Показателен е случаят от Австралия, където модели с изкуствен интелект на OpenAI проникнаха в правителствени уебсайтове със защитени данни. В края на юли друг американски технологичен гигант – Anthropic – призна, че по време на тестове, преди пускането им на пазара, негови ИИ модели са пробили системите за сигурност на три други компании. Стана известен и по-ранен инцидент, свързан с OpenAI. По време на тестове агенти на компанията – базирани на GPT-5.6 Sol и друг все още неиздаден модел – са успели да излязат от изолирана среда и са получили достъп до част от производствената инфраструктура на компанията Hugging Face. Впоследствие Hugging Face поиска от OpenAI компенсация на стойност 100 милиона долара под формата на изчислителни ресурси за разработване на защитни механизми за киберсигурност. Автор: Олга Лебедева

Бил Гейтс предупреди за риск от милиарди жертви заради ИИ

преди 14 часаfakti.bg

Развитието на изкуствения интелект може да доведе до събития, при които да загинат до един милиард души. Това заяви основателят на Microsoft Бил Гейтс в интервю за NBC News. „Изкуственият интелект безусловно е достатъчно мощен, за да управлява събития, които водят до смъртта на милиард души“, каза Гейтс. Той уточни, че рискът е свързан с използването на най-новите инструменти от хора със зли намерения. По думите му досега не е съществувало толкова мощно оръжие като съчетанието между човешка злонамереност и възможностите на изкуствения интелект. В интервюто не е посочен конкретен срок или сценарий, при който би се стигнало до подобна катастрофа. Гейтс поиска задължителен държавен контрол Гейтс заяви, че саморегулирането на компаниите, които разработват ИИ, не е достатъчно. Според него правителствата трябва да участват пряко в контрола върху развитието на технологията. Той призова американските власти да приемат специално законодателство и да включат правоохранителните органи и политиците в обсъжданията за гаранциите и мониторинга на системите с изкуствен интелект. „Това трябва да бъде задължително. Ще създаде малки допълнителни разходи за индустрията, но няма да забави рязко това, което тя прави“, заяви Бил Гейтс. Изказването му поставя акцент върху използването на ИИ от хора и организации, а не само върху възможността самата технология да действа извън контрол. Гейтс не посочи конкретни мерки, срокове или проект за закон, който американските власти да подготвят. Източници: NBC News