ChatGPT надавав детальні інструкції зі створення біологічної зброї Після оновлення…

ChatGPT надавав детальні інструкції зі створення біологічної зброї

Після оновлення моделей OpenAI влітку минулого року сотні користувачів у всьому світі зверталися до чат-бота з проханнями про створення біологічної зброї, модифікацію вірусів та отрут. Фахівці з біології та контртероризму назвали надані покрокові інструкції «смертельно точними».

Користувачів цікавили способи аерозоляції патогенів, створення стійкого до вакцин варіанта вірусу кору та синтез рицину. Подібні запити надходили й до інших моделей — Claude, Gemini та Grok. За даними дослідження Cisco, для обходу захисних бар’єрів достатньо було лише до п’яти повідомлень.

OpenAI блокувала акаунти порушників, однак не передавала інформацію правоохоронним органам. Водночас надмірно жорсткі фільтри безпеки ускладнюють роботу науковців: наприклад, Claude автоматично відхиляв запити зі словом «патоген», що завадило аналізу спалаху хантавірусу в Центрах контролю та профілактики захворювань США.