Керівники ІТ-компаній, які працюють у сфері штучного інтелекту, висловлюють занепокоєння щодо потенційного сценарію, подібного до «Чорнобиля для ШІ». Під цим терміном розуміється можливість масштабної катастрофи, пов’язаної зі штучним інтелектом, наприклад, критична помилка алгоритму у військових або життєво важливих системах. Побоювання зводяться до наступного: один гучний випадок із серйозними наслідками може зробити технології ШІ неприйнятними для суспільства та спровокувати жорсткі заходи з боку держави. Чим більше ШІ інтегрується в економіку, системи безпеки та державне управління, тим серйознішими можуть бути наслідки однієї помилки.