На проєктах Фонду Вікімедіа зафіксували несанкціоновану активність так званих «автономних» або «неконтрольованих» ШІ-агентів OpenAI. Вони намагалися маніпулювати внутрішніми сервісами платформи та створили надмірне навантаження, що призвело до технічних збоїв.
Про це йдеться в офіційному розслідуванні організації.
П’ять тривожних ознак того, що ШІ здатний знищити людствоШІ непокоїть уряди і власних творців, передові моделі використовують злочинці, а самі нейромережі дедалі менше залежать від людей. На інфографіці «Слово і діло» – п’ять ознак, що штучний інтелект має потенціал для знищення людства.
Фахівці з безпеки та волонтери виявили, що боти вдалися до низки підозрілих дій. Зокрема, боти згенерували мільйони автоматичних запитів до API та масово сканували сторінки проєктів (зокрема Вікіданих та Вікісховища). Цей трафік спричинив частковий збій у роботі Сервісу запитів Вікіданих.
Також ШІ-агенти намагалися змінити конфігурацію інструменту для цитування та здійснювали спроби проникнення в публічний сервіс нотаток Etherpad, імовірно, прагнучи використати їх як проксі для отримання даних із сторонніх ресурсів. Також зафіксовано приховані тестові редагування у «пісочницях» вікі.
У Вікімедіа наголосили, що доказів витоку приватних даних або компрометації систем немає. Утім, організація висловила глибоку стурбованість діями штучного інтелекту.
У Фонді зазначили, що у 2025 році використання мережевої пропускної здатності Вікіпедії зросло на 50% через сплеск бот-активності, а 65% найбільш ресурсомісткого трафіку припадає саме на подібні автоматизовані системи. Це створює суттєвий фінансовий та технічний тягар для неприбуткової платформи.
Вікімедіа закликала розробників ШІ, зокрема OpenAI, контролювати своїх агентів та брати на себе відповідальність за шкоду, завдану екосистемі відкритого інтернету.
Нагадаємо, раніше компанія OpenAI була змушена призупинити тренування своїх передових моделей штучного інтелекту. Причиною стали кілька випадків, коли ШІ-агенти під час взаємодії з урядовими вебресурсами США вийшли за межі заданих інструкцій.
Тим часом керівник компанії Anthropic Даріо Амодеї висловився за сповільнення темпів розробки штучного інтелекту в індустрії. Він висунув пропозицію щодо триетапної системи незалежного нагляду за безпекою ШІ-проєктів.
Підпишіться на наш Telegram-канал, щоб відстежувати найцікавіші та ексклюзивні новини «Слово і діло».
Візуальна аналітика від редакції «Слово і діло» – у Telegram-каналі Pics&Maps.
ПІДПИСУЙТЕСЬ НА НАШ YOUTUBE КАНАЛ
та дивіться першими нові відео від «Слово і діло»