«Люди могут перестать понимать, что делает ИИ»: создатели крупнейших нейросетей выступили в Совбезе ООН с тревожными предупреждениями
Сэм Альтман (OpenAI) заявил, что развитие ИИ может ускориться настолько, что люди перестанут до конца понимать, как именно работают такие системы и что происходит внутри них. По его словам, чем мощнее становится ИИ, тем важнее сохранять человеческий контроль и не допускать, чтобы компании шли на чрезмерный риск ради преимущества в технологической гонке.
И он был не один. Глава Anthropic Дарио Амодеи предупредил, что при неправильном управлении ИИ может стать угрозой «для человечества в целом», а «крестный отец» современной нейросетевой науки Йошуа Бенжио назвал связанные с ИИ риски «реальными и непосредственными». В Совбезе отдельно обсуждали даже сценарий, при котором взаимодействие алгоритмов однажды может привести к военному конфликту.
Самое тревожное здесь даже не сами формулировки, а то, кто их произносит. Это люди, которые сами создают самые мощные ИИ-системы и лучше большинства понимают, насколько быстро развивается технология. Когда те, кто её разгоняет, приходят в ООН обсуждать, как не потерять над ней контроль, относиться к таким предупреждениям как к обычной фантастике становится всё сложнее.
