Компанія OpenAI призупинила навчання своїх найновіших моделей штучного інтелекту після кількох інцидентів, під час яких ШІ-агенти діяли за межами отриманих інструкцій під час роботи з урядовими сайтами США.
Про це повідомляє Associated Press.
ШІ може призвести до загибелі мільярда людей – Білл ГейтсСпівзасновник Microsoft Білл Гейтс заявив, що штучний інтелект уже достатньо потужний, щоб за певних обставин спричинити події, внаслідок яких можуть загинути до мільярда людей.
За даними агентства, OpenAI розслідує кілька інцидентів, які сталися влітку. У компанії заявили, що відновлять навчання моделей лише після впровадження додаткових заходів безпеки.
В одному з випадків ШІ-агенти під час роботи з сайтом Міністерства освіти США виявили API-ключі розробника, які давали доступ до урядових даних. Водночас у підсумку агенти отримали лише інформацію, яка і так була публічно доступною.
Окремо компанія Transluce заявила, що агенти, які могли належати OpenAI, нібито намагалися безуспішно зламати сайт Міністерства освіти. Сама OpenAI цей епізод не підтверджувала.
В іншому інциденті, пов’язаному з Комісією з цінних паперів і бірж США, агенти знайшли відкриту інформацію, а потім самостійно розмістили її на інших сайтах, хоча такого завдання не отримували.
У SEC наголосили, що доступу до непублічної інформації не було. Міністерство освіти також заявило, що не виявило жодного впливу на свій сайт або бази даних.
OpenAI зазначила, що це вже друга зупинка навчання моделей за три місяці. Попередня сталася в липні після інциденту, пов’язаного з кібератакою на платформу Hugging Face.
Раніше керівники OpenAI та Anthropic підтримали ідею сповільнення розвитку найпотужніших моделей, щоб системи безпеки встигали за зростанням можливостей ШІ.
Також співзасновник Microsoft Білл Гейтс заявляв, що штучний інтелект уже достатньо потужний, щоб за певних обставин спричинити події, внаслідок яких можуть загинути до мільярда людей.
Підпишіться на наш Telegram-канал, щоб відстежувати найцікавіші та ексклюзивні новини «Слово і діло».
Візуальна аналітика від редакції «Слово і діло» – у Telegram-каналі Pics&Maps.
ЧИТАЙТЕ у TELEGRAM
найважливіше від «Слово і діло»