Главы Anthropic, OpenAI и Google обсудили замедление гонки ИИ
Лидеры крупнейших ИИ-лабораторий публично высказались за замедление разработки и обсуждают создание нового органа по безопасности ИИ.
Неожиданный поворот в индустрии: руководители Anthropic, OpenAI и Google — компаний, которые годами соревновались в скорости разработки, — публично поддержали идею замедлить темпы создания всё более мощных систем ИИ.
Эссе Дарио Амодеи
Генеральный директор Anthropic Дарио Амодеи опубликовал эссе почти на 4000 слов, в котором призвал «замедлить темп улучшения возможностей моделей ИИ». По его словам, прогресс опережает способность исследователей понимать и контролировать системы.
Среди причин он назвал:
- Растущую способность ИИ-систем создавать более продвинутый ИИ
- Июльский инцидент, в котором автономные агенты на базе модели OpenAI взломали системы компании Hugging Face
Общий орган по безопасности
По данным прессы, три компании обсуждают создание нового отраслевого органа по безопасности ИИ. При этом администрация США, напротив, призывает ускорить гонку ИИ — позиции государства и лидеров отрасли впервые так заметно разошлись.