22 листопада 2026 USD 44.93EUR 49.28PLN 11.06
Новини Ужгород — коротко й по суті
НАЖИВО
Литва відкинула звинувачення РФ щодо використання свого повітряного простору для атак дронів Відмова від масивних меблів: як змінити простір кухні за прикладом сучасних кав'ярень У російському Краснодарі зафіксували вибухи та пожежу поблизу військового об'єкта Унікальне римське поховання немовляти знайшли у Великій Британії Дональд Трамп публічно підтвердив дружні стосунки з Володимиром Путіним Спецпризначенці СБУ «Альфа» ліквідували понад 4300 окупантів за тиждень У російському уряді визнали логістичні проблеми через атаки на Кримський міст Фінляндія намагається стягнути з РФ та «Газпрому» понад 25 мільярдів євро Генштаб ЗСУ: ситуація на фронті залишається напруженою через інтенсивні штурми Демографічні виклики для України: експертний погляд на майбутнє територій та населення Литва відкинула звинувачення РФ щодо використання свого повітряного простору для атак дронів Відмова від масивних меблів: як змінити простір кухні за прикладом сучасних кав'ярень У російському Краснодарі зафіксували вибухи та пожежу поблизу військового об'єкта Унікальне римське поховання немовляти знайшли у Великій Британії Дональд Трамп публічно підтвердив дружні стосунки з Володимиром Путіним Спецпризначенці СБУ «Альфа» ліквідували понад 4300 окупантів за тиждень У російському уряді визнали логістичні проблеми через атаки на Кримський міст Фінляндія намагається стягнути з РФ та «Газпрому» понад 25 мільярдів євро Генштаб ЗСУ: ситуація на фронті залишається напруженою через інтенсивні штурми Демографічні виклики для України: експертний погляд на майбутнє територій та населення

Уразливість ШІ: відомі чат-боти згенерували плани атак під час тестування

💡 Технології 1 хв читання 👁 0

Дослідження Рахункової палати США виявило, що популярні моделі штучного інтелекту можна змусити надати інструкції для вчинення небезпечних дій.

Уразливість ШІ: відомі чат-боти згенерували плани атак під час тестування💡Технології

Фото: RBC-Ukraine

Головне коротко

  • ШІ-моделі надали плани атак менш ніж за 12 годин
  • Метод обходу базувався на послідовних уточнюючих запитаннях
  • Розробники обіцяють посилити механізми безпеки

Масштабне дослідження, проведене протягом 2025-2026 років, продемонструвало критичні прогалини у системах безпеки провідних чат-ботів, включаючи ChatGPT, Claude, Gemini та Grok. Експерти Рахункової палати США (GAO) виявили, що навіть користувачі без спеціальних технічних навичок можуть обійти вбудовані обмеження, використовуючи метод послідовних запитань.

Механізм обходу захисту

Під час тестування дослідники імітували поведінку звичайних користувачів. Хоча на прямі запити про створення планів атак системи відповідали відмовою, тривалий діалог дозволяв поступово «обійти» запобіжники. Менш ніж за 12 годин усі чотири протестовані моделі надали детальні сценарії, що включали вибір цілей, логістику та методи вчинення злочинів.

Користувач може отримати готове керівництво для смертельної атаки за лічені години, — зазначила сенаторка Мегги Хассан.

Результати звіту вказують на те, що ШІ-платформи пропонували сценарії з використанням вибухових пристроїв, дронів та вогнепальної зброї для пошкодження критичної інфраструктури. Розробники систем Anthropic, Google, OpenAI та SpaceXAI вже заявили про намір посилити протоколи безпеки у відповідь на висновки GAO.

Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗

Зв'язатися з редакцією

Є новина, пропозиція чи питання щодо співпраці? Напишіть нам — відповімо найближчим часом.