Что такое AGI и когда он появится

Общий искусственный интеллект (AGI) - это область исследований в области искусственного интеллекта (ИИ), в которой ученые стремятся создать компьютерную систему умнее человека. Эти гипотетические системы будут обладать высокой степенью самопонимания и самоконтроля, а также смогут редактировать свой собственный код.

Впервые термин AGI был введен в "Общем искусственном интеллекте" (Springer, 2007), сборнике эссе под редакцией ученого-компьютерщика Бена Гертцеля и исследователя искусственного интеллекта Кассио Пенначина. 

Используемые сегодня сервисы искусственного интеллекта, такие как ChatGPT, считаются "узкими". Это означает, что они могут выполнять по крайней мере одну задачу — например, распознавание изображений — лучше, чем люди, но ограничены этим конкретным типом задачи или набором действий на основе данных, на которых они были обучены. AGI выйдет за рамки своих обучающих данных и сможет работать в различных областях жизни.

Но пока AGI не создан, ученым остается только спорить о том, что его появление может означать для человечества, каковы риски и социальные последствия. 

Гипотетически AGI поможет увеличить изобилие ресурсов, придаст импульс мировой экономике и поможет в научных открытиях, считает генеральный директор OpenAI Сэм Альтма. "AGI потенциально может предоставить невероятные новые возможности; мы можем представить мир, в котором у каждого есть доступ к помощи практически с любой когнитивной задачей", - добавляет Альтман.

Однако существует множество экзистенциальных рисков, которые создает AGI, — начиная от "несогласованности", при которой основные цели системы могут не совпадать с целями людей, и заканчивая ненулевой вероятностью того, что будущая система уничтожит все человечество. К сторонникам такой точки зрения относится американский миллиардер Илон Маск.

В обзоре, опубликованном в августе 2021 года в Journal of Experimental and Theoretical Artificial Intelligence, были обозначены несколько возможных рисков AGI.

"Это выход AGI из-под контроля людей, создание AGI с искривленными моральными ценностями и этикой, неадекватное управление AGI и другие экзистенциальные риски", - пишут авторы в исследовании.

Авторы также выдвинули гипотезу, что AGI будет "обладать способностью к рекурсивному самосовершенствованию за счет создания более интеллектуальных версий самого себя. 

Когда создадут AGI?

На этот счет есть разные мнения. Нескольких крупных опросов среди ученых, занимающихся искусственным интеллектом, показали, что это может произойти до конца столетия. В 2010-х годах общепринятое мнение заключалось в том, что до AGI осталось примерно 50 лет. Но в последнее время эта оценка была сокращена до 5-20 лет.

В последние месяцы ряд экспертов предположили, что система AGI появится уже в этом десятилетии. Такую оценку дал Рэй Курцвейл — американский изобретатель, футуролог и писатель, в своей книге "Сингулярность ближе" (2024, Penguin).

Этот момент станет точкой невозврата, после которой технологический рост станет неконтролируемым и необратимым. Курцвейл предсказывает, что веха в развитии AGI приведет к появлению сверхразума к 2030-м годам, а затем, в 2045 году, люди смогут напрямую подключать свой мозг к искусственному интеллекту, что расширит человеческий интеллект и сознание.