Смогут ли системы функционировать без прямого вмешательства человека?

ForbesHi-Tech

Думай сам: когда человечество создаст сильный ИИ и как это отразится на обществе

Иван Гиганов

Бен Герцель (Фото Nora Tam / South China Morning Post via Getty Images)

Известный ученый и популяризатор концепции общего искусственного интеллекта (Artificial General Intelligence, AGI) Бен Герцель в ходе своего выступления на Beneficial AGI Summit 2024 в Панаме в марте предсказал появление ИИ, который будет таким же умным, как человек, уже в ближайшие три года. По его мнению, момент сингулярности в развитии ИИ быстро приближается. Создание ИИ, способного самостоятельно мыслить, волнует человечество. О том, смогут ли системы функционировать без прямого вмешательства человека, какие технологические препятствия существуют на данный момент, а главное — насколько обосновано создание такого искусственного интеллекта, рассказывает ИИ-эксперт и управленческий консультант Иван Гиганов.

Сильный и слабый ум

Под самостоятельным мышлением в контексте ИИ понимается его способность функционировать и принимать решения без прямого вмешательства человека. Эта способность — ключевой признак сильного ИИ, или AGI. Самостоятельное мышление предполагает наличие следующих навыков:

  • умения адаптироваться к выполнению новых, заранее не запрограммированных задач;
  • обучаемости на основе собственного, в том числе единичного, опыта;
  • критического мышления;
  • способности ставить себе новые задачи.

Такая система будет способна адаптироваться к любой новой задаче без необходимости специального программирования со стороны человека. Она сможет разложить сложную задачу на несколько простых, собрать необходимую информацию, обработать результаты и сделать логические выводы, предложить дальнейшие шаги и обучиться на полученном опыте. При этом сильный ИИ должен уметь взаимодействовать не только с цифровым миром, но и с физическим.

Современные же алгоритмы ИИ относятся к категории слабого. Они предназначены для решения узких задач: сгенерировать текст, поиграть в шахматы, спрогнозировать стоимость акций. У подобных систем нет гибкости — они ограничены заданными сценариями использования, а их ответы или действия обычно базируются на данных, которые в них внесли программисты и пользователи.

Мыслить независимо

Хотя современные алгоритмы относятся к слабому ИИ, некоторые из них уже обладают навыками, присущими сильному. Рассмотрим их подробнее.

Генеративные модели. Генеративные нейронные сети, лежащие в основе ChatGPT от OpenAI и Gemini от Google, приобрели впечатляющую обобщающую способность. Она позволяет им адаптироваться и решать задачи, выходящие за рамки первоначальных данных и функций, для которых они были обучены. Например, GPT-4, изначально обученный для генерации текста, близкого к человеческому, освоил принципы программирования и теперь может создавать часто работающий программный код. Многие современные генеративные модели являются мультимодальными, то есть могут работать с различными типами данных — не только с текстом, но и с видео или звуком. Это расширяет их способности анализировать и в будущем взаимодействовать с окружающим миром.

Кроме того, если попросить, эти модели способны разложить сложную задачу на более простые шаги, решить их отдельно и предоставить логически обоснованный ответ. Эта техника известна как «цепь рассуждений» (Chain-of-Thought). Конечно, эти модели не обладают концептуальным и ассоциативным мышлением, присущим человеку. Однако можно сказать, что они начинают проявлять зачатки того, что в будущем станет критическим мышлением.

Обучение с подкреплением. Технология обучения с подкреплением, или Reinforcement Learning (RL), позволяет ИИ учиться на основе собственного опыта, анализируя окружающую среду и испытывая различные стратегии действий. ИИ получает вознаграждение за желаемый результат и штраф — за нежелательный. Его задача — найти такую стратегию, которая позволит заработать максимальное вознаграждение.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Всхлип тишины Всхлип тишины

Джошуа Оппенхаймер и его «Конец света»

Weekend
Его рок-н-ролл Его рок-н-ролл

Эмин Агаларов: «Элвис в моём исполнении всегда нравился слушателям»

RR Люкс.Личности.Бизнес.
Электронный кошелек Электронный кошелек

Когда электронный кошелек — это удобно, а когда нужно быть особенно осторожной

Лиза
Лучшая версия себя Лучшая версия себя

Опасная погоня за стандартами красоты и её последствия

Grazia
«Песнь пророка» и русский Нобель. Большой разговор о книжных премиях с Андреем Аствацатуровым, Игорем Сухих и Татьяной Емельяновой «Песнь пророка» и русский Нобель. Большой разговор о книжных премиях с Андреем Аствацатуровым, Игорем Сухих и Татьяной Емельяновой

О назначении литературных премий, романе «Песнь пророка» и Нобеле Ивана Бунина

СНОБ
Как людям с ОКР комфортно работать и полностью раскрыть свои таланты Как людям с ОКР комфортно работать и полностью раскрыть свои таланты

Почему нейроотличия — это не всегда плохо и как обратить симптомы в свою пользу

Inc.
Бабочки оказались самыми упоминаемыми в хайку членистоногими Бабочки оказались самыми упоминаемыми в хайку членистоногими

Какие насекомые интересовали японских поэтов больше всего?

N+1
Неузнаваемый Дауни, комичный Аффлек, многоликий Макэвой: актеры с несколькими ролями в одном проекте Неузнаваемый Дауни, комичный Аффлек, многоликий Макэвой: актеры с несколькими ролями в одном проекте

Проекты, в которых артисты сыграли сразу несколько ролей

Правила жизни
Мои инопланетяне! Мои инопланетяне!

Если они прилетели, природа сделала уверенный поворот к приходу весны

Наука и жизнь
10 цитат Германа Роршаха, которые помогут разглядеть суть вещей 10 цитат Германа Роршаха, которые помогут разглядеть суть вещей

Герман Роршах пришел к любопытным выводам о мышлении человека

Psychologies
Лучи добра: как свет влияет на наше здоровье и настроение? Лучи добра: как свет влияет на наше здоровье и настроение?

Свет действительно сильно влияет на физическое и на ментальное состояние людей

Правила жизни
Игла престолов Игла престолов

Чем сейчас заняты представители когда-то могущественных династий?

Правила жизни
Михаил Владимирович Голицын и «Угли России» Михаил Владимирович Голицын и «Угли России»

Крупнейший специалист по геологии угля Михаил Голицын и роль угля в жизни России

Знание – сила
Модели советских автобусов: когда появились первые автобусы в СССР Модели советских автобусов: когда появились первые автобусы в СССР

Какие из автобусов вошли в историю отечественного автопрома

РБК
Как пережить родительское собрание: 10 полезных советов Как пережить родительское собрание: 10 полезных советов

Почему мы боимся родительских собраний и как минимизировать негатив от них?

Psychologies
Заряженная пыль на Луне Заряженная пыль на Луне

Откуда взялась пыль на Луне?

Знание – сила
Роковое увлечение Роковое увлечение

Музыка, рыбалка, фотография – его хобби только притворяются милыми и невинными!

VOICE
Неожиданный признак рака толстой кишки, который нельзя игнорировать! Обезопасьтесь Неожиданный признак рака толстой кишки, который нельзя игнорировать! Обезопасьтесь

Какими могут быть признаки рака толстой кишки?

ТехИнсайдер
Ученые назвали креветки и омара «токсичной едой, которая вызывает рак». Как так? Ученые назвали креветки и омара «токсичной едой, которая вызывает рак». Как так?

Тем, кто любит побаловать себя суши или лобстером, следует быть осторожными

ТехИнсайдер
Ставка на валюту Ставка на валюту

Особенности выбора юаневых и замещающих облигаций

Деньги
Дина Насырова: Быть ювелиром в России чрезвычайно трудно Дина Насырова: Быть ювелиром в России чрезвычайно трудно

Дина Насырова о глобальных проблемах отечественной ювелирной индустрии

СНОБ
Обнови софт Обнови софт

Что такое soft skills и как их прокачивать?

VOICE
Интервью с руководителем и управляющим партнером Ассоциации REPA Юлией Солодовниковой о рынке недвижимости Интервью с руководителем и управляющим партнером Ассоциации REPA Юлией Солодовниковой о рынке недвижимости

Юлия Солодовникова: из чего складывается репутация строительных компаний

СНОБ
Что такое водородная очистка двигателя, как работает и стоит ли делать Что такое водородная очистка двигателя, как работает и стоит ли делать

Все о водородной очистке двигателя: что за процедура и есть ли в ней смысл

РБК
5 привычек для здорового старения мозга 5 привычек для здорового старения мозга

Что вы можете сделать, чтобы предотвратить снижение когнитивных способностей?

ТехИнсайдер
«Шестидесятые сейчас на пике»: коллекционер Валерий Дудаков о ярмарке «Арт Москва» «Шестидесятые сейчас на пике»: коллекционер Валерий Дудаков о ярмарке «Арт Москва»

Валерий Дудаков, крупный московский коллекционер и арт-дилер, на «Арт Москва»

Forbes
Пошел по комнате дымок: откуда взялся неошансон и почему он популярен? Пошел по комнате дымок: откуда взялся неошансон и почему он популярен?

Неожиданная эволюция и популярность шансона в России

Правила жизни
Как и чем почистить дроссельную заслонку и как часто нужно это делать Как и чем почистить дроссельную заслонку и как часто нужно это делать

Все о чистке дросселя: нужно ли это делать, и какие могут быть последствия

РБК
Как долго могут жить птицы Как долго могут жить птицы

Одни птицы живут очень долго, а срок других — крайне короткий. Как же так?

ТехИнсайдер
Полет Гагарина Полет Гагарина

Как на самом деле проходил первый полет Гагарина в космос?

Знание – сила
Открыть в приложении