Смогут ли системы функционировать без прямого вмешательства человека?

ForbesHi-Tech

Думай сам: когда человечество создаст сильный ИИ и как это отразится на обществе

Иван Гиганов

Бен Герцель (Фото Nora Tam / South China Morning Post via Getty Images)

Известный ученый и популяризатор концепции общего искусственного интеллекта (Artificial General Intelligence, AGI) Бен Герцель в ходе своего выступления на Beneficial AGI Summit 2024 в Панаме в марте предсказал появление ИИ, который будет таким же умным, как человек, уже в ближайшие три года. По его мнению, момент сингулярности в развитии ИИ быстро приближается. Создание ИИ, способного самостоятельно мыслить, волнует человечество. О том, смогут ли системы функционировать без прямого вмешательства человека, какие технологические препятствия существуют на данный момент, а главное — насколько обосновано создание такого искусственного интеллекта, рассказывает ИИ-эксперт и управленческий консультант Иван Гиганов.

Сильный и слабый ум

Под самостоятельным мышлением в контексте ИИ понимается его способность функционировать и принимать решения без прямого вмешательства человека. Эта способность — ключевой признак сильного ИИ, или AGI. Самостоятельное мышление предполагает наличие следующих навыков:

  • умения адаптироваться к выполнению новых, заранее не запрограммированных задач;
  • обучаемости на основе собственного, в том числе единичного, опыта;
  • критического мышления;
  • способности ставить себе новые задачи.

Такая система будет способна адаптироваться к любой новой задаче без необходимости специального программирования со стороны человека. Она сможет разложить сложную задачу на несколько простых, собрать необходимую информацию, обработать результаты и сделать логические выводы, предложить дальнейшие шаги и обучиться на полученном опыте. При этом сильный ИИ должен уметь взаимодействовать не только с цифровым миром, но и с физическим.

Современные же алгоритмы ИИ относятся к категории слабого. Они предназначены для решения узких задач: сгенерировать текст, поиграть в шахматы, спрогнозировать стоимость акций. У подобных систем нет гибкости — они ограничены заданными сценариями использования, а их ответы или действия обычно базируются на данных, которые в них внесли программисты и пользователи.

Мыслить независимо

Хотя современные алгоритмы относятся к слабому ИИ, некоторые из них уже обладают навыками, присущими сильному. Рассмотрим их подробнее.

Генеративные модели. Генеративные нейронные сети, лежащие в основе ChatGPT от OpenAI и Gemini от Google, приобрели впечатляющую обобщающую способность. Она позволяет им адаптироваться и решать задачи, выходящие за рамки первоначальных данных и функций, для которых они были обучены. Например, GPT-4, изначально обученный для генерации текста, близкого к человеческому, освоил принципы программирования и теперь может создавать часто работающий программный код. Многие современные генеративные модели являются мультимодальными, то есть могут работать с различными типами данных — не только с текстом, но и с видео или звуком. Это расширяет их способности анализировать и в будущем взаимодействовать с окружающим миром.

Кроме того, если попросить, эти модели способны разложить сложную задачу на более простые шаги, решить их отдельно и предоставить логически обоснованный ответ. Эта техника известна как «цепь рассуждений» (Chain-of-Thought). Конечно, эти модели не обладают концептуальным и ассоциативным мышлением, присущим человеку. Однако можно сказать, что они начинают проявлять зачатки того, что в будущем станет критическим мышлением.

Обучение с подкреплением. Технология обучения с подкреплением, или Reinforcement Learning (RL), позволяет ИИ учиться на основе собственного опыта, анализируя окружающую среду и испытывая различные стратегии действий. ИИ получает вознаграждение за желаемый результат и штраф — за нежелательный. Его задача — найти такую стратегию, которая позволит заработать максимальное вознаграждение.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как выращивать помидоры на дачном участке: секрет высоких грядок Как выращивать помидоры на дачном участке: секрет высоких грядок

Выращивание сезонных овощей на дачном участке требует много времени и сил

Популярная механика
Лучшие сериалы, снятые по мотивам кинофильмов Лучшие сериалы, снятые по мотивам кинофильмов

Превращать любимый фильм в сериал — вовсе не современное изобретение

Maxim
Родить в Тундре: как в НАО смогли повысить рождаемость Родить в Тундре: как в НАО смогли повысить рождаемость

Как жительницы НАО рожают в тундре?

ФедералПресс
Вас точно беспокоил этот вопрос: почему цветная капуста так называется, если на самом деле она белая Вас точно беспокоил этот вопрос: почему цветная капуста так называется, если на самом деле она белая

При виде цветной капусты может возникнуть вопрос: почему это она цветная?

ТехИнсайдер
Тираннозавры оказались глупее, чем считали ученые Тираннозавры оказались глупее, чем считали ученые

Тираннозавр был не умнее среднестатистической ящерицы или крокодила

ТехИнсайдер
Французский кинорежиссер Бертран Бонелло: Я вижу стену между человечеством и технологиями, в «Предчувствии» они подавили людей Французский кинорежиссер Бертран Бонелло: Я вижу стену между человечеством и технологиями, в «Предчувствии» они подавили людей

Бертран Бонелло о работе с Леей Сейду, всеобщем одиночестве и катастрофах

СНОБ
Пример приюта «Милосердие»: как поступать с бездомными Пример приюта «Милосердие»: как поступать с бездомными

Как тюменец Андрей Якунин трудится над тем, чтобы оказывать помощь бездомным

ФедералПресс
Электрокарский cловарь. Мужская версия Электрокарский cловарь. Мужская версия

Толковый словарь электромобилиста

Автопилот
Нуар с двойным дном Нуар с двойным дном

«Шугар»: Колин Фаррелл копипастит голливудскую классику

Weekend
Ученые узнали, какая диета увеличивает продолжительность жизни Ученые узнали, какая диета увеличивает продолжительность жизни

Как нужно питаться, чтобы жить значительно дольше?

ТехИнсайдер
Качаться, чтобы передать потомкам хорошие гены: ученые говорят, что это может защитить их от болезней и ранней смерти Качаться, чтобы передать потомкам хорошие гены: ученые говорят, что это может защитить их от болезней и ранней смерти

Физические упражнения могут усиливать экспрессию генов, связанных с ростом мышц

ТехИнсайдер
«Мир очень неприятен, в нем трудно не впасть в отчаяние, а он как-то научился» «Мир очень неприятен, в нем трудно не впасть в отчаяние, а он как-то научился»

Как Владимир Набоков примирил себя с жизнью в чужих странах

Weekend
Что смотреть, если вам нравятся «Очень странные дела» Что смотреть, если вам нравятся «Очень странные дела»

На какие мистические сериалы стоит обратить внимание?

Правила жизни
Почему кошачья моча так плохо пахнет: ученые наконец-то выяснили это Почему кошачья моча так плохо пахнет: ученые наконец-то выяснили это

Почему этот кошачий запах ни с чем не спутать?

ТехИнсайдер
Как проникнуть в суть сознания: взгляд ученых и буддистов Как проникнуть в суть сознания: взгляд ученых и буддистов

Можно ли понять, что чувствует другой человек?

Psychologies
К чему может привести изменение магнитных полюсов Земли? К чему может привести изменение магнитных полюсов Земли?

Ученые подсчитали, что вот-вот может произойти новый сдвиг магнитных полюсов

Зеркало Мира
Сон о счастливой Москве: фильму «Я шагаю по Москве» — 60 лет Сон о счастливой Москве: фильму «Я шагаю по Москве» — 60 лет

Почему «Я шагаю по Москве» — главный фильм в судьбе Георгия Данелии

СНОБ
«Палм-Рояль»: комедийный сериал о домохозяйке, пробившейся в светское общество «Палм-Рояль»: комедийный сериал о домохозяйке, пробившейся в светское общество

«Палм-Рояль»: о домохозяйке, которая изо всех сил стремится в светское общество

Forbes
Как правильно выбрать температуру для стирки: важные советы работников прачечной Как правильно выбрать температуру для стирки: важные советы работников прачечной

Подход «одна температура стирки подходит для всего» может повредить вещам

VOICE
«Эксперт РА» ждет замедления кредитования малого бизнеса и роста просрочки «Эксперт РА» ждет замедления кредитования малого бизнеса и роста просрочки

Рост кредитования малого и среднего бизнеса замедлится, а просрочка увеличится

Forbes
Радость, слезы и семейные тайны: семь очень разных фильмов про свадьбы Радость, слезы и семейные тайны: семь очень разных фильмов про свадьбы

«Свадебные» фильмы в самых разных жанрах

Forbes
Как убрать живот без спортзала Как убрать живот без спортзала

Как убрать живот без диет и изнурительных тренировок

Psychologies
Жизнь в моменте: почему аренда так популярна в последнее время Жизнь в моменте: почему аренда так популярна в последнее время

Почему зумеры и миллениалы выбирают аренду квартиры вместо покупки?

ТехИнсайдер
Опора на село Опора на село

Конфликт Павла Скоропадского и Симона Петлюры можно описать как социальный

Дилетант
«Казнить нельзя помиловать»: история высшей меры наказания в России «Казнить нельзя помиловать»: история высшей меры наказания в России

Как менялись законы, касающиеся смертной казни, в течение всей истории России

ТехИнсайдер
Между всех огней Между всех огней

Период Директории УНР — важнейший этап в истории украинской нации

Дилетант
Сигнализатор как он есть Сигнализатор как он есть

Что такое сигнализаторы, без которых не может обойтись ни одна корабельная САУ

Наука и техника
Желудочный тракт Желудочный тракт

Любая дорога для настоящего гурмана — путь наслаждений

СНОБ
Год Дракона Год Дракона

Китайские драконы, царящие на российском автомобильном рынке

RR Люкс.Личности.Бизнес.
Психосоматика атопического дерматита: «порочный круг» Психосоматика атопического дерматита: «порочный круг»

Как связаны ментальное здоровье и атопический дерматит?

Psychologies
Открыть в приложении