Насмотрятся ужастиков и боятся, что ИИ в определенный момент начнет весьма своеобразно толковать значение вреда и пользы для человека, а то и перепрограммирует себя. При этом глупые кожаные ублюдки как-бы забывают, что в отличии от них, у ИИ даже такого развитого масштаба с самого начала будет заложена конкретная программа и определение того, что такое "Вред" и что такое "Польза" на основе куче триггеров.

ИИ просто физически не сможет выйти за рамки своей программы или как-то иначе толковать задачи, если кто-то специально не сделает так. Да и вообще, по большей части, это одна из множества раздутых проблем, что и было продемонстрировано - по свету ходит куча психопатов, ублюдков и просто моральных уродов, у каждого дома есть вилки и ножи, но что-то лишь те самые единицы хватаются за них и устраивают гэбню.

А все потому что общество в большинстве своем делает подобное невыгодным для выполнения. Потомство дают те, кто был достаточно спокойным, не агрессивным и разумным, чтобы соблюдать правила поведения и общения, а остальные просто вымерли к хуям, лишь периодически появляясь в качестве погрешности.