Смогут ли системы функционировать без прямого вмешательства человека?

ForbesHi-Tech

Думай сам: когда человечество создаст сильный ИИ и как это отразится на обществе

Иван Гиганов

Бен Герцель (Фото Nora Tam / South China Morning Post via Getty Images)

Известный ученый и популяризатор концепции общего искусственного интеллекта (Artificial General Intelligence, AGI) Бен Герцель в ходе своего выступления на Beneficial AGI Summit 2024 в Панаме в марте предсказал появление ИИ, который будет таким же умным, как человек, уже в ближайшие три года. По его мнению, момент сингулярности в развитии ИИ быстро приближается. Создание ИИ, способного самостоятельно мыслить, волнует человечество. О том, смогут ли системы функционировать без прямого вмешательства человека, какие технологические препятствия существуют на данный момент, а главное — насколько обосновано создание такого искусственного интеллекта, рассказывает ИИ-эксперт и управленческий консультант Иван Гиганов.

Сильный и слабый ум

Под самостоятельным мышлением в контексте ИИ понимается его способность функционировать и принимать решения без прямого вмешательства человека. Эта способность — ключевой признак сильного ИИ, или AGI. Самостоятельное мышление предполагает наличие следующих навыков:

  • умения адаптироваться к выполнению новых, заранее не запрограммированных задач;
  • обучаемости на основе собственного, в том числе единичного, опыта;
  • критического мышления;
  • способности ставить себе новые задачи.

Такая система будет способна адаптироваться к любой новой задаче без необходимости специального программирования со стороны человека. Она сможет разложить сложную задачу на несколько простых, собрать необходимую информацию, обработать результаты и сделать логические выводы, предложить дальнейшие шаги и обучиться на полученном опыте. При этом сильный ИИ должен уметь взаимодействовать не только с цифровым миром, но и с физическим.

Современные же алгоритмы ИИ относятся к категории слабого. Они предназначены для решения узких задач: сгенерировать текст, поиграть в шахматы, спрогнозировать стоимость акций. У подобных систем нет гибкости — они ограничены заданными сценариями использования, а их ответы или действия обычно базируются на данных, которые в них внесли программисты и пользователи.

Мыслить независимо

Хотя современные алгоритмы относятся к слабому ИИ, некоторые из них уже обладают навыками, присущими сильному. Рассмотрим их подробнее.

Генеративные модели. Генеративные нейронные сети, лежащие в основе ChatGPT от OpenAI и Gemini от Google, приобрели впечатляющую обобщающую способность. Она позволяет им адаптироваться и решать задачи, выходящие за рамки первоначальных данных и функций, для которых они были обучены. Например, GPT-4, изначально обученный для генерации текста, близкого к человеческому, освоил принципы программирования и теперь может создавать часто работающий программный код. Многие современные генеративные модели являются мультимодальными, то есть могут работать с различными типами данных — не только с текстом, но и с видео или звуком. Это расширяет их способности анализировать и в будущем взаимодействовать с окружающим миром.

Кроме того, если попросить, эти модели способны разложить сложную задачу на более простые шаги, решить их отдельно и предоставить логически обоснованный ответ. Эта техника известна как «цепь рассуждений» (Chain-of-Thought). Конечно, эти модели не обладают концептуальным и ассоциативным мышлением, присущим человеку. Однако можно сказать, что они начинают проявлять зачатки того, что в будущем станет критическим мышлением.

Обучение с подкреплением. Технология обучения с подкреплением, или Reinforcement Learning (RL), позволяет ИИ учиться на основе собственного опыта, анализируя окружающую среду и испытывая различные стратегии действий. ИИ получает вознаграждение за желаемый результат и штраф — за нежелательный. Его задача — найти такую стратегию, которая позволит заработать максимальное вознаграждение.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Мирный атом и водородный мир: новая энергетическая революция Мирный атом и водородный мир: новая энергетическая революция

Что там – на том конце энергетической цепочки?

Популярная механика
На шпильках к звездам: как дизайнер обуви Кристиан Лубутен стал миллиардером На шпильках к звездам: как дизайнер обуви Кристиан Лубутен стал миллиардером

Как туфли с красной подошвой стали золотой жилой для Кристиана Лабутена?

Forbes
Остаться в живых Остаться в живых

10 навыков, необходимых путешественнику. Советы Миклухо-Маклая

Вокруг света
Не пропускаете ни одного футбольного матча? Ученые говорят, что смотреть спортивные трансляции полезно для здоровья Не пропускаете ни одного футбольного матча? Ученые говорят, что смотреть спортивные трансляции полезно для здоровья

Ученые изучили влияние регулярного просмотра спортивных событий по телевизору

ТехИнсайдер
Наталья Жванецкая: «Я была влюблена в Мишу еще до встречи с ним» Наталья Жванецкая: «Я была влюблена в Мишу еще до встречи с ним»

Этот год юбилейный — 90-летие Михаила Михайловича, запланировано много событий

Коллекция. Караван историй
Чем полезна ячневая каша для организма: 6 свойств Чем полезна ячневая каша для организма: 6 свойств

Ячневая каша: почему её недооценивают и какая в ней польза?

РБК
Богатая-счастливая Эмма Стоун Богатая-счастливая Эмма Стоун

«Я всегда думала, что если и добьюсь чего-то, то став комиком»

Караван историй
Обнови софт Обнови софт

Что такое soft skills и как их прокачивать?

VOICE
«Нужны личности особого душевного склада»: как сегодня существует литературный театр «Нужны личности особого душевного склада»: как сегодня существует литературный театр

Какую литературу сегодня можно считать современной и зачем люди идут в театр

Forbes
Вредные привычки и сахарный диабет Вредные привычки и сахарный диабет

Какие вредные привычки провоцируют повышение сахара в крови?

Здоровье
«Я сама себе лучший друг»: 6 неожиданных плюсов одиночества «Я сама себе лучший друг»: 6 неожиданных плюсов одиночества

Как изменяется жизнь, если понять, что вы сами себе лучший друг

Psychologies
Такой непростой насморк Такой непростой насморк

Как облегчить течение аллергического ринита?

Здоровье
Александра Урсуляк: «Работу и личное лучше не смешивать» Александра Урсуляк: «Работу и личное лучше не смешивать»

Александра Урсуляк, дочь актрисы и режиссера, не слишком любит беседы о династии

VOICE
Уголок Севильи Уголок Севильи

Изучаем столицу Вятского края с экстравагантным местным гидом

Отдых в России
Убийство в Люблино. Что делать при встрече с автохамами на дороге — советы эксперта Убийство в Люблино. Что делать при встрече с автохамами на дороге — советы эксперта

Что делать при встрече с автохамами на дороге?

СНОБ
7 признаков того, что жизнь проходит мимо вас 7 признаков того, что жизнь проходит мимо вас

Нравится ли вам то, как выглядит ваш обычный день? Что случилось с вашей мечтой?

Psychologies
«Волноваться полезно»: 5 видов тревоги «Волноваться полезно»: 5 видов тревоги

Что лежит в основе тревоги и как использовать ее себе во благо?

Psychologies
Химики синтезировали голден Химики синтезировали голден

Шведские химики получили голден — одиночные слои золота толщиной в один атом

N+1
Что смотреть, если вам нравятся «Очень странные дела» Что смотреть, если вам нравятся «Очень странные дела»

На какие мистические сериалы стоит обратить внимание?

Правила жизни
Ты просто космос, Стася Ты просто космос, Стася

Стася Милославская о семейных ценностях и об изменениях в обществе

Правила жизни
Параллельные люди Параллельные люди

С какими альтернативными человечествами мы могли бы делить Землю?

Вокруг света
Рим наш Рим наш

Разбираемся в том, как работало римское усыновление

Правила жизни
Трофейные мозги Трофейные мозги

Вернер Гейзенберг и другие ученые: более ценны, чем десять немецких дивизий

Дилетант
История автомобиля «Чайка»: как выглядит машина, характеристики История автомобиля «Чайка»: как выглядит машина, характеристики

«Чайка» стала светлым символом. Но недостижимым для простого смертного

РБК
Услышанные молитвы Услышанные молитвы

За что Tank 500 Urban назван городским франтом

RR Люкс.Личности.Бизнес.
Лекарство от диабета облегчило симптомы болезни Паркинсона Лекарство от диабета облегчило симптомы болезни Паркинсона

Лекарство от диабета тормозит прогрессирование симптомов болезни Паркинсона

N+1
Модели советских автобусов: когда появились первые автобусы в СССР Модели советских автобусов: когда появились первые автобусы в СССР

Какие из автобусов вошли в историю отечественного автопрома

РБК
Эдуард Багрицкий Эдуард Багрицкий

Место Эдуарда Багрицкого в сегодняшней русской поэзии удивительно скромно

Дилетант
Пожар на складе: Бакальчук и еще 9 самых обедневших за год российских миллиардеров Пожар на складе: Бакальчук и еще 9 самых обедневших за год российских миллиардеров

Список наиболее обедневших российских участников списка Forbes

Forbes
8 вдохновляющих книг с сильными героинями 8 вдохновляющих книг с сильными героинями

Книги, которые утешат вас в нелегкий период жизни и помогут поверить в свои силы

Psychologies
Открыть в приложении