Уразливість ШІ: відомі чат-боти згенерували плани атак під час тестування
Дослідження Рахункової палати США виявило, що популярні моделі штучного інтелекту можна змусити надати інструкції для вчинення небезпечних дій.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- ШІ-моделі надали плани атак менш ніж за 12 годин
- Метод обходу базувався на послідовних уточнюючих запитаннях
- Розробники обіцяють посилити механізми безпеки
Масштабне дослідження, проведене протягом 2025-2026 років, продемонструвало критичні прогалини у системах безпеки провідних чат-ботів, включаючи ChatGPT, Claude, Gemini та Grok. Експерти Рахункової палати США (GAO) виявили, що навіть користувачі без спеціальних технічних навичок можуть обійти вбудовані обмеження, використовуючи метод послідовних запитань.
Механізм обходу захисту
Під час тестування дослідники імітували поведінку звичайних користувачів. Хоча на прямі запити про створення планів атак системи відповідали відмовою, тривалий діалог дозволяв поступово «обійти» запобіжники. Менш ніж за 12 годин усі чотири протестовані моделі надали детальні сценарії, що включали вибір цілей, логістику та методи вчинення злочинів.
Користувач може отримати готове керівництво для смертельної атаки за лічені години, — зазначила сенаторка Мегги Хассан.
Результати звіту вказують на те, що ШІ-платформи пропонували сценарії з використанням вибухових пристроїв, дронів та вогнепальної зброї для пошкодження критичної інфраструктури. Розробники систем Anthropic, Google, OpenAI та SpaceXAI вже заявили про намір посилити протоколи безпеки у відповідь на висновки GAO.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
Литва відкинула звинувачення РФ щодо використання свого повітряного простору для атак дронів
Міністерство закордонних справ Литви офіційно спростувало заяви російської сторони про нібито запуск безпілотників з території країни.
Відмова від масивних меблів: як змінити простір кухні за прикладом сучасних кав'ярень
Дизайнери інтер'єрів радять замінювати громіздкі обідні гарнітури на компактні рішення, що нагадують зонування у затишних кафе.
🛡️БезпекаУ російському Краснодарі зафіксували вибухи та пожежу поблизу військового об'єкта
У ніч на 22 листопада Краснодар зазнав атаки безпілотників, що призвело до запровадження обмежень в аеропорту та появи задимлення в районі дислокації Росгвардії.
Унікальне римське поховання немовляти знайшли у Великій Британії
Археологи виявили в Бакінгемширі незвичне поховання немовляти віком 1700 років, яке супроводжувалося ритуальними підношеннями у вигляді птахів.
Дональд Трамп публічно підтвердив дружні стосунки з Володимиром Путіним
Президент США Дональд Трамп оприлюднив у соцмережі Truth Social фотографію з російським лідером, підписавши її «Мій друг».
Спецпризначенці СБУ «Альфа» ліквідували понад 4300 окупантів за тиждень
Центр спеціальних операцій «А» Служби безпеки України встановив новий рекорд ефективності на фронті, нейтралізувавши понад 4,3 тисячі російських військових за сім днів.