Исследователь Джейкоб Коксон, ранее работавший в OpenAI, уволился из Anthropic и предупредил о рисках слишком быстрого развития искусственного интеллекта.
По его словам, ведущие компании фактически соревнуются в создании систем, которые в перспективе смогут значительно превосходить человека в программировании, научных исследованиях, кибероперациях и других областях.
Коксон считает, что такие модели ИИ могут получить возможность самостоятельно ускорять разработку еще более мощных систем, тогда как надежных методов контроля над ними пока нет.
Именно поэтому он обвинил Anthropic и OpenAI в том, что они слишком сильно рискуют всем человечеством ради гонки за более совершенным и автономным искусственным интеллектом.
Его опасения публично поддержал Эван Хубингер, один из специалистов Anthropic по проблеме согласования поведения ИИ с человеческими целями.
Он заявил, что считает вероятность сценария, при котором развитие неконтролируемого искусственного интеллекта может привести к гибели человечества в течение следующего десятилетия, выше 10%.
