Президент США Дональд Трамп оприлюднив угоду про безпеку та контроль систем штучного інтелекту, який був підписаний з керівниками технологічних компаній, з якими він зустрівся у Вашингтоні.
Про це повідомляє агенція Reuters із посиланням на сторінку Трампа у соцмережі Truth Social.
П’ять тривожних ознак того, що ШІ здатний знищити людствоШІ непокоїть уряди і власних творців, передові моделі використовують злочинці, а самі нейромережі дедалі менше залежать від людей. На інфографіці «Слово і діло» – п’ять ознак, що штучний інтелект має потенціал для знищення людства.
Трамп назвав документ «морально обов’язковим», його підписали керівники компаній Google, Anthropic, Meta, OpenAI, соціальної мережі X та NVIDIA. Як зазначається, до домовленостей закладено чотири рівні нагляду, а самі учасники угоди не виключають, що в майбутньому ці стандарти можуть бути закріплені на законодавчому рівні.
Уточнюється, що першим рівнем пропонується залучення зовнішніх аудиторів та незалежних оцінювачів для перевірки ефективності внутрішніх механізмів моніторингу. Згідно з угодою, на другому рівні компанії закликали призначити незалежний комітет при раді директорів для нагляду та отримання звітів від внутрішніх і зовнішніх аудиторів, а також від команд, що здійснюють контроль за ШІ.
Окрім цього, запроваджується постійний внутрішній моніторинг моделей під час їхнього навчання та використання, приділяючи особливу увагу кібербезпеці, а також біологічним і хімічним загрозам.
Зокрема, це має гарантувати, що ШІ-моделі «не зламують технічні системи та не отримують до них доступ непередбаченими способами».
Останній рівень нагляду вимагає створити внутрішню команду для забезпечення того, щоб «усі заходи контролю, моніторингу та виявлення працювали так, як передбачено».
«Компанії-учасниці будуть регулярно зустрічатися для встановлення стандартів та найкращих практик з метою підвищення безпеки своїх систем», – йдеться в документі.
Також, як вказується, у майбутньому може бути доцільним узаконити ці норми або закріпити в нормативних актах.
Як відомо, Трамп анонсував створення нової структури під назвою «AI Force», або «Сили штучного інтелекту». Він також пообіцяв найближчим часом призначити нового урядового радника, якого назвав «царем штучного інтелекту».
Нагадаємо, США та росія, за даними The Washington Post, домоглися вилучення з проєкту правил ООН щодо смертоносної ШІ-зброї вимог про людський контроль, надійність систем та етичні норми.
Також нещодавно співзасновник Microsoft Білл Гейтс заявив, що штучний інтелект уже достатньо потужний, щоб за певних обставин спричинити події, внаслідок яких можуть загинути до мільярда людей.
Окрім цього, OpenAI призупинила навчання нових моделей після небезпечної поведінки ШІ-агентів.
Підпишіться на наш Telegram-канал, щоб відстежувати найцікавіші та ексклюзивні новини «Слово і діло».
Візуальна аналітика від редакції «Слово і діло» – у Telegram-каналі Pics&Maps.
ПІДПИСУЙТЕСЬ НА НАШ YOUTUBE КАНАЛ
та дивіться першими нові відео від «Слово і діло»