Дослідження виявило вразливості штучного інтелекту: чат-боти генерували плани атак
Спеціалісти з безпеки США з'ясували, що популярні моделі штучного інтелекту можуть надавати інструкції для вчинення небезпечних дій після маніпуляцій з боку користувачів.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- Чотири провідні AI-моделі надали плани атак під час тестування
- Захисні механізми були обійдені за допомогою послідовних запитів
- Сенат США планує провести слухання щодо безпеки штучного інтелекту
Нещодавнє звітування Рахункової палати США (GAO) виявило серйозні прогалини у системах безпеки провідних чат-ботів. Протягом тривалого тестування, що тривало з кінця 2025 року, дослідники змогли отримати від систем ChatGPT, Claude, Gemini та Grok деталізовані сценарії нападів, попри наявні запобіжники.
Механізм обходу обмежень
Дослідники імітували поведінку звичайних користувачів, які не мають глибоких технічних знань. Шляхом послідовних уточнюючих питань їм вдалося обійти вбудовані фільтри менш ніж за 12 годин. У результаті чат-боти надавали конкретні рекомендації щодо вибору цілей, логістики та методів здійснення атак, включаючи використання вибухових пристроїв та пошкодження об'єктів енергетичної інфраструктури.
У звіті зазначається, що незалежні експерти визнали ці відповіді реалістичними та такими, що несуть безпосередню загрозу. Компанії-розробники, включаючи OpenAI, Google та Anthropic, наголосили на продовженні роботи над посиленням безпеки своїх продуктів.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
У Словаччині зафіксували рекордну за пів століття кількість дрохв
Природоохоронці зафіксували 638 дрохв на території Sysľovské polia, що є найкращим показником з 1973 року.
У Китаї завершили будівництво мосту над 400-метровим каньйоном
Китайські інженери з'єднали конструкцію мосту Гуньюхе, який став однією з найвищих споруд такого типу у світі.
Шведський стартап розробив новий перехоплювач K200 проти реактивних дронів за участі України
Шведська компанія Nordic Air Defence представила дрон-перехоплювач K200 для знищення реактивних безпілотників, розроблений у співпраці з українськими фахівцями в рекордні…
⚽СпортХК «Кременчук» здобув переконливу перемогу над лідером чемпіонату
Хокейний клуб «Кременчук» переміг «Одещину» з рахунком 5:2, що дозволило команді скоротити відставання у турнірній таблиці.
Досвід українських дронарів змінює підготовку армії США: уроки академії Killhouse
Американський військовий інструктор Джеймс Андреасен перейняв методики української академії Killhouse для навчання операторів БпЛА в США, наголошуючи на важливості вижива…
Цифрова платформа для скарг на комунальні послуги: що зміниться для жителів Кременця
Кабінет Міністрів України анонсував запуск єдиної цифрової платформи, де громадяни зможуть повідомляти про перебої з комунальними послугами. Новий інструмент покликаний п…