Масштабні кібератаки, збої в роботі банків, інтернету та енергосистем - саме такі сценарії, за повідомленням Axios, обговорюють керівники OpenAI та Anthropic. Компанії готують плани реагування на можливі інциденти, пов’язані з небезпечним використанням штучного інтелекту.

Деякі представники галузі допускають серйозний інцидент у найближчі 6-12 місяців. Однак це оцінка ризиків, а не підтверджений прогноз катастрофи чи «повстання машин».

Однією з головних загроз вважають використання ШІ для автоматизації та масштабування кібератак. Інший ризик - автономні агенти, які можуть виконувати непередбачені дії або виходити за межі дозволеного середовища.

OpenAI підтвердила, що регулярно проводить навчання з різними кризовими сценаріями, наголосивши: підготовка не означає, що такі події неминучі. Anthropic відмовилася коментувати інформацію Axios.

криза ШІ

За даними видання, представники індустрії також обговорюють із законодавцями США можливі запобіжники. Серед варіантів - суворіші правила, тимчасове призупинення розробки найпотужніших моделей і механізми екстреного вимкнення. Водночас універсальна «кнопка стоп» навряд чи охопить усі системи, особливо моделі з відкритими вагами.