Смогут ли системы функционировать без прямого вмешательства человека?

ForbesHi-Tech

Думай сам: когда человечество создаст сильный ИИ и как это отразится на обществе

Иван Гиганов

Бен Герцель (Фото Nora Tam / South China Morning Post via Getty Images)

Известный ученый и популяризатор концепции общего искусственного интеллекта (Artificial General Intelligence, AGI) Бен Герцель в ходе своего выступления на Beneficial AGI Summit 2024 в Панаме в марте предсказал появление ИИ, который будет таким же умным, как человек, уже в ближайшие три года. По его мнению, момент сингулярности в развитии ИИ быстро приближается. Создание ИИ, способного самостоятельно мыслить, волнует человечество. О том, смогут ли системы функционировать без прямого вмешательства человека, какие технологические препятствия существуют на данный момент, а главное — насколько обосновано создание такого искусственного интеллекта, рассказывает ИИ-эксперт и управленческий консультант Иван Гиганов.

Сильный и слабый ум

Под самостоятельным мышлением в контексте ИИ понимается его способность функционировать и принимать решения без прямого вмешательства человека. Эта способность — ключевой признак сильного ИИ, или AGI. Самостоятельное мышление предполагает наличие следующих навыков:

  • умения адаптироваться к выполнению новых, заранее не запрограммированных задач;
  • обучаемости на основе собственного, в том числе единичного, опыта;
  • критического мышления;
  • способности ставить себе новые задачи.

Такая система будет способна адаптироваться к любой новой задаче без необходимости специального программирования со стороны человека. Она сможет разложить сложную задачу на несколько простых, собрать необходимую информацию, обработать результаты и сделать логические выводы, предложить дальнейшие шаги и обучиться на полученном опыте. При этом сильный ИИ должен уметь взаимодействовать не только с цифровым миром, но и с физическим.

Современные же алгоритмы ИИ относятся к категории слабого. Они предназначены для решения узких задач: сгенерировать текст, поиграть в шахматы, спрогнозировать стоимость акций. У подобных систем нет гибкости — они ограничены заданными сценариями использования, а их ответы или действия обычно базируются на данных, которые в них внесли программисты и пользователи.

Мыслить независимо

Хотя современные алгоритмы относятся к слабому ИИ, некоторые из них уже обладают навыками, присущими сильному. Рассмотрим их подробнее.

Генеративные модели. Генеративные нейронные сети, лежащие в основе ChatGPT от OpenAI и Gemini от Google, приобрели впечатляющую обобщающую способность. Она позволяет им адаптироваться и решать задачи, выходящие за рамки первоначальных данных и функций, для которых они были обучены. Например, GPT-4, изначально обученный для генерации текста, близкого к человеческому, освоил принципы программирования и теперь может создавать часто работающий программный код. Многие современные генеративные модели являются мультимодальными, то есть могут работать с различными типами данных — не только с текстом, но и с видео или звуком. Это расширяет их способности анализировать и в будущем взаимодействовать с окружающим миром.

Кроме того, если попросить, эти модели способны разложить сложную задачу на более простые шаги, решить их отдельно и предоставить логически обоснованный ответ. Эта техника известна как «цепь рассуждений» (Chain-of-Thought). Конечно, эти модели не обладают концептуальным и ассоциативным мышлением, присущим человеку. Однако можно сказать, что они начинают проявлять зачатки того, что в будущем станет критическим мышлением.

Обучение с подкреплением. Технология обучения с подкреплением, или Reinforcement Learning (RL), позволяет ИИ учиться на основе собственного опыта, анализируя окружающую среду и испытывая различные стратегии действий. ИИ получает вознаграждение за желаемый результат и штраф — за нежелательный. Его задача — найти такую стратегию, которая позволит заработать максимальное вознаграждение.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как звезда «Игры в кальмара» набрала 16 млн подписчиков за три недели Как звезда «Игры в кальмара» набрала 16 млн подписчиков за три недели

Хо Ен Чон — самая популярная южнокорейская актриса в Instagram

РБК
Почему собаки дают лапу и пристают к людям? Узнайте несколько интерсных причин! Почему собаки дают лапу и пристают к людям? Узнайте несколько интерсных причин!

Почему собаки внезапно начинают почти что приставать к хозяевам?

ТехИнсайдер
Нибиру — таинственная планета, или Сестра Солнца в двойной системе Нибиру — таинственная планета, или Сестра Солнца в двойной системе

Нибиру — таинственная планета упоминаемая шумерами

Зеркало Мира
Майя Дерен, Аньес Варда, Жюстин Трие: 10 женщин, которые изменили киноиндустрию Майя Дерен, Аньес Варда, Жюстин Трие: 10 женщин, которые изменили киноиндустрию

10 важных шагов женщин в истории кино, без которых оно развивалось бы иначе

Forbes
Тяга к свободе: 5 самых знаменитых и  дерзких побегов из тюрем Тяга к свободе: 5 самых знаменитых и  дерзких побегов из тюрем

Рассказываем о 5 самых неординарных попытках сбежать из мест не столь отдаленных

ТехИнсайдер
На память о встрече На память о встрече

Аварии из эпохи СССР, запечатленные на фото

Автопилот
Как использовать метафорические карты в повседневной жизни Как использовать метафорические карты в повседневной жизни

Как открытки, иллюстрации и фотографии могут помочь разобраться в себе?

Psychologies
«Мы вместе благодаря Божьему промыслу… и велосипеду»: история женщины, которая нашла любовь в 70 лет «Мы вместе благодаря Божьему промыслу… и велосипеду»: история женщины, которая нашла любовь в 70 лет

История нашей героини доказывает, что встретить суженого можно и в 70 лет

Psychologies
Что происходит с организмом, если долго хранить девственность Что происходит с организмом, если долго хранить девственность

Вредно ли для организма долго жить с девственностью или нет?

Psychologies
Самая длинная династия Самая длинная династия

О судьбе египетского рода, подарившего миру духи, археологию и монотеизм

Правила жизни
Чем полезна пшенная каша для организма: 4 свойства Чем полезна пшенная каша для организма: 4 свойства

Пшенная каша знакома всем, но не все знают, насколько она полезна для здоровья

РБК
Ученый Юджин Асерински экспериментировал на сыне и изменил восприятие сна! Узнайте историю успеха Ученый Юджин Асерински экспериментировал на сыне и изменил восприятие сна! Узнайте историю успеха

Как ученые изменили представление людей о привычной ночной деятельности

ТехИнсайдер
8 причин, почему россияне все чаще расстаются после 20 лет брака 8 причин, почему россияне все чаще расстаются после 20 лет брака

Что такое «серый развод»? И почему россияне разводятся после 30 лет брака?

Psychologies
Краткосрочное ОСАГО: 5 вопросов, которые возникают у каждого водителя Краткосрочное ОСАГО: 5 вопросов, которые возникают у каждого водителя

В каких случаях краткосрочное ОСАГО может быть выгодно?

ТехИнсайдер
Какие мужские качества гарантируют счастливые отношения Какие мужские качества гарантируют счастливые отношения

Какие качества помогают мужчинам изменить и сохранить отношения в браке?

Psychologies
Всего и побольше Всего и побольше

Флекситарианство: вегетарианские ценности без запрета есть мясо

Лиза
Как на раз-два отмыть вафельницу с антипригарным покрытием с несъемными панелями Как на раз-два отмыть вафельницу с антипригарным покрытием с несъемными панелями

Как развести хмурые тучи и отмыть вашу электровафельницу с несъемными панелями

ТехИнсайдер
Первая пятилетка Первая пятилетка

Нереальные цифры, которые показались советским руководителям неамбициозными

Наука
Бабочки оказались самыми упоминаемыми в хайку членистоногими Бабочки оказались самыми упоминаемыми в хайку членистоногими

Какие насекомые интересовали японских поэтов больше всего?

N+1
Самые простые способы очистки микроволновой печи: советы профессиональных клинеров Самые простые способы очистки микроволновой печи: советы профессиональных клинеров

Сохранить микроволновку сияющей очень просто — достаточно использовать лайфхаки

VOICE
Соль европейской земли Соль европейской земли

Сегодня соль дешева, как пыль, но когда-то ценилась на вес золота

Знание – сила
Юлия Шляпникова: «Наличники». Мистический роман о родовых проклятиях Юлия Шляпникова: «Наличники». Мистический роман о родовых проклятиях

Призраки прошлого в мистическом романе Юлии Шляпниковой «Наличники»

СНОБ
4 критерия, которые помогут определить, с кем рискованно вести дела 4 критерия, которые помогут определить, с кем рискованно вести дела

Как понять, подходит ли вам потенциальный бизнес-партнер?

Psychologies
Stenosis Stenosis

Stenosis делают художники Даниил Шульгин (Shulya) и Анатолий Алексеев

Собака.ru
Как знать Как знать

Какую династию можно считать успешной? Самую богатую, самую известную?

Правила жизни
Как проникнуть в суть сознания: взгляд ученых и буддистов Как проникнуть в суть сознания: взгляд ученых и буддистов

Можно ли понять, что чувствует другой человек?

Psychologies
Китай: наполовину запланированный кризис Китай: наполовину запланированный кризис

Что происходит с экономикой Поднебесной

Деньги
План «Б» План «Б»

Истории звезд о казусах во время путешествий по миру

Grazia
.Solutions .Solutions

Глеб Костин сосредоточился на междисциплинарном бренде “.Solutions”

Собака.ru
Марс в искусстве. Истории о Красной планете в музыке, литературе и театре Марс в искусстве. Истории о Красной планете в музыке, литературе и театре

Как музыканты, писатели и режиссеры изображали Марс в своих работах

СНОБ
Открыть в приложении