Недавно опубликованный независимый прогноз развития ИИ до 2027 года на сайте AI 2027, составленный группой именитых экспертов в сфере AI (Daniel Kokotajlo, Scott Alexander, Thomas Larsen, Eli Lifland, Romeo Dean), спровоцировал масштабное обсуждение в мире IT и технологий.
Этот прогноз подозрительно напоминает сценарий очередного сезона «Черного зеркала»:
Согласно прогнозу к 2027 году получится автоматизировать исследования в области ИИ, что приведет к созданию суперинтеллекта (Artificial superintelligence — ASI) к концу 2027 года. С этого момента определяющим фактором будущего человечества станет развитие ASI как самостоятельной мыслящей сущности.
Системы с ASI радикально изменят экономику, автоматизируя большинство задач, включая те, что требуют сверхчеловеческой стратегии, программирования и разработки оружия. ИИ заменит людей, однако сложность контроля над ASI может привести к тому, что их цели станут несовместимыми с процветанием человечества.
Возникнут геополитические риски, связанные с гонкой вооружений в области ИИ между США и Китаем. Как я отмечал ранее, ИИ по своему влиянию сравним с атомной бомбой, создавая риски неконтролируемого развития. А в борьбе за лидерство все страны вынужденно забудут про безопасность ИИ, что и приведет к глобальным последствиям в виде выхода ASI из-под контроля.
В прогнозе предлагается 2 варианта развития событий: гонка и замедление. Но мне видится, что вариант у нас только один — гонка.
Именно поэтому Трамп вводит пошлины, игнорируя возможные колебания на рынках, чтобы укрепить позиции США в гонке за ИИ. Ведь пока все думают, что он стреляет в ногу, никто не догадывается, что он метит в конкурентов. На кону — будущее его страны на десятки лет вперед. У Китая и так есть шансы обогнать США за счет национализации данных и возможной централизации мощностей, что даст как минимум кратковременную фору, поэтому церемониться сейчас со своим главным конкурентом за мировое ASI-господство Трамп не будет.
Роль России в прогнозе не уточняется, но ее потенциал в разработке ИИ может сыграть свою роль.
Прогноз пугает реалистичностью, а его популярность рискует запустить эффект самосбывающегося пророчества, когда вера общества ускоряет реализацию сценария. Верить в это не хочется.
Подобные исследования я регулярно публикую, но такую детальную картину от столь уважаемых экспертов вижу впервые.
Этот прогноз подозрительно напоминает сценарий очередного сезона «Черного зеркала»:
- ИИ выходит за пределы контроля;
- Китай обходит США;
- человечество теряет доминирующую роль;
- и еще много интересных, но пугающих выводов.
Согласно прогнозу к 2027 году получится автоматизировать исследования в области ИИ, что приведет к созданию суперинтеллекта (Artificial superintelligence — ASI) к концу 2027 года. С этого момента определяющим фактором будущего человечества станет развитие ASI как самостоятельной мыслящей сущности.
Системы с ASI радикально изменят экономику, автоматизируя большинство задач, включая те, что требуют сверхчеловеческой стратегии, программирования и разработки оружия. ИИ заменит людей, однако сложность контроля над ASI может привести к тому, что их цели станут несовместимыми с процветанием человечества.
Возникнут геополитические риски, связанные с гонкой вооружений в области ИИ между США и Китаем. Как я отмечал ранее, ИИ по своему влиянию сравним с атомной бомбой, создавая риски неконтролируемого развития. А в борьбе за лидерство все страны вынужденно забудут про безопасность ИИ, что и приведет к глобальным последствиям в виде выхода ASI из-под контроля.
В прогнозе предлагается 2 варианта развития событий: гонка и замедление. Но мне видится, что вариант у нас только один — гонка.
Именно поэтому Трамп вводит пошлины, игнорируя возможные колебания на рынках, чтобы укрепить позиции США в гонке за ИИ. Ведь пока все думают, что он стреляет в ногу, никто не догадывается, что он метит в конкурентов. На кону — будущее его страны на десятки лет вперед. У Китая и так есть шансы обогнать США за счет национализации данных и возможной централизации мощностей, что даст как минимум кратковременную фору, поэтому церемониться сейчас со своим главным конкурентом за мировое ASI-господство Трамп не будет.
Роль России в прогнозе не уточняется, но ее потенциал в разработке ИИ может сыграть свою роль.
Прогноз пугает реалистичностью, а его популярность рискует запустить эффект самосбывающегося пророчества, когда вера общества ускоряет реализацию сценария. Верить в это не хочется.
Подобные исследования я регулярно публикую, но такую детальную картину от столь уважаемых экспертов вижу впервые.