Смогут ли системы функционировать без прямого вмешательства человека?

ForbesHi-Tech

Думай сам: когда человечество создаст сильный ИИ и как это отразится на обществе

Иван Гиганов

Бен Герцель (Фото Nora Tam / South China Morning Post via Getty Images)

Известный ученый и популяризатор концепции общего искусственного интеллекта (Artificial General Intelligence, AGI) Бен Герцель в ходе своего выступления на Beneficial AGI Summit 2024 в Панаме в марте предсказал появление ИИ, который будет таким же умным, как человек, уже в ближайшие три года. По его мнению, момент сингулярности в развитии ИИ быстро приближается. Создание ИИ, способного самостоятельно мыслить, волнует человечество. О том, смогут ли системы функционировать без прямого вмешательства человека, какие технологические препятствия существуют на данный момент, а главное — насколько обосновано создание такого искусственного интеллекта, рассказывает ИИ-эксперт и управленческий консультант Иван Гиганов.

Сильный и слабый ум

Под самостоятельным мышлением в контексте ИИ понимается его способность функционировать и принимать решения без прямого вмешательства человека. Эта способность — ключевой признак сильного ИИ, или AGI. Самостоятельное мышление предполагает наличие следующих навыков:

  • умения адаптироваться к выполнению новых, заранее не запрограммированных задач;
  • обучаемости на основе собственного, в том числе единичного, опыта;
  • критического мышления;
  • способности ставить себе новые задачи.

Такая система будет способна адаптироваться к любой новой задаче без необходимости специального программирования со стороны человека. Она сможет разложить сложную задачу на несколько простых, собрать необходимую информацию, обработать результаты и сделать логические выводы, предложить дальнейшие шаги и обучиться на полученном опыте. При этом сильный ИИ должен уметь взаимодействовать не только с цифровым миром, но и с физическим.

Современные же алгоритмы ИИ относятся к категории слабого. Они предназначены для решения узких задач: сгенерировать текст, поиграть в шахматы, спрогнозировать стоимость акций. У подобных систем нет гибкости — они ограничены заданными сценариями использования, а их ответы или действия обычно базируются на данных, которые в них внесли программисты и пользователи.

Мыслить независимо

Хотя современные алгоритмы относятся к слабому ИИ, некоторые из них уже обладают навыками, присущими сильному. Рассмотрим их подробнее.

Генеративные модели. Генеративные нейронные сети, лежащие в основе ChatGPT от OpenAI и Gemini от Google, приобрели впечатляющую обобщающую способность. Она позволяет им адаптироваться и решать задачи, выходящие за рамки первоначальных данных и функций, для которых они были обучены. Например, GPT-4, изначально обученный для генерации текста, близкого к человеческому, освоил принципы программирования и теперь может создавать часто работающий программный код. Многие современные генеративные модели являются мультимодальными, то есть могут работать с различными типами данных — не только с текстом, но и с видео или звуком. Это расширяет их способности анализировать и в будущем взаимодействовать с окружающим миром.

Кроме того, если попросить, эти модели способны разложить сложную задачу на более простые шаги, решить их отдельно и предоставить логически обоснованный ответ. Эта техника известна как «цепь рассуждений» (Chain-of-Thought). Конечно, эти модели не обладают концептуальным и ассоциативным мышлением, присущим человеку. Однако можно сказать, что они начинают проявлять зачатки того, что в будущем станет критическим мышлением.

Обучение с подкреплением. Технология обучения с подкреплением, или Reinforcement Learning (RL), позволяет ИИ учиться на основе собственного опыта, анализируя окружающую среду и испытывая различные стратегии действий. ИИ получает вознаграждение за желаемый результат и штраф — за нежелательный. Его задача — найти такую стратегию, которая позволит заработать максимальное вознаграждение.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Ослепленная желанием Ослепленная желанием

Наши героини о странных вещах, которые их заводят

Лиза
«Региональным банкам нужен особый статус» «Региональным банкам нужен особый статус»

О том, как повысить роль средних региональных банков и стимулировать их развитие

Монокль
«От саванны до дивана: Эволюционная история кошек» «От саванны до дивана: Эволюционная история кошек»

Почему внешность домашних кошек разнообразнее, чем у их предков

N+1
Скрытые герои гоночной трассы: люди, без которых невозможны автогонки Скрытые герои гоночной трассы: люди, без которых невозможны автогонки

Мы решили рассказать о скрытых героях гоночной трассы

Maxim
Пример приюта «Милосердие»: как поступать с бездомными Пример приюта «Милосердие»: как поступать с бездомными

Как тюменец Андрей Якунин трудится над тем, чтобы оказывать помощь бездомным

ФедералПресс
Как помыть машину во дворе и не налететь на штраф Как помыть машину во дворе и не налететь на штраф

Как помыть машину, не нарушив при этом санитарные и экологические нормы

ТехИнсайдер
Ученые узнали, какая диета увеличивает продолжительность жизни Ученые узнали, какая диета увеличивает продолжительность жизни

Как нужно питаться, чтобы жить значительно дольше?

ТехИнсайдер
Советские игровые автоматы, по которым мы скучаем до сих пор Советские игровые автоматы, по которым мы скучаем до сих пор

10 автоматов из СССР, на которых хочется поиграть прямо сейчас

Maxim
Астрономы нашли на Луне потенциальный источник квазиспутника Земли Астрономы нашли на Луне потенциальный источник квазиспутника Земли

Астероид Камоалева мог быть выбит с поверхности Луны в прошлом

N+1
Зоя Бербер: «Слушать нужно только тех, кому доверяешь» Зоя Бербер: «Слушать нужно только тех, кому доверяешь»

Актриса Зоя Бербер о смене имени и игнорировании курсов для будущих родителей

Здоровье
«Если б мужа не было рядом, я бы вообще не родила»: как проходят партнерские роды и как к ним подготовиться «Если б мужа не было рядом, я бы вообще не родила»: как проходят партнерские роды и как к ним подготовиться

Действительно ли партнерские роды могут быть вредны для отношений?

Psychologies
Как и почему в России хотят «выращивать» ипотечных заемщиков на спецдепозитах Как и почему в России хотят «выращивать» ипотечных заемщиков на спецдепозитах

В первом чтении принят законопроект о договорах жилищных сбережений

Forbes
«Титаник» сельского хозяйства: почему фермеры в России так близки к банкротствам «Титаник» сельского хозяйства: почему фермеры в России так близки к банкротствам

Рентабельность растениеводства падает, доля убыточных сельхозпредприятий растет

Forbes
Третье испытание «Старшипа» Третье испытание «Старшипа»

Очередной и очень ощутимый шаг вперед гигантского гибрида ракеты и звездолета

Наука
Вы в своем уме? Вы в своем уме?

Что на самом деле значат «оговорки по Фрейду» и как использовать эти «баги»

Grazia
О насущном: как хранить банковскую карту, чтобы она не размагнитилась О насущном: как хранить банковскую карту, чтобы она не размагнитилась

Что делать, если ваша банковская карта размагнитилась?

ТехИнсайдер
ВОЗ сообщила о 3500 смертях от вирусных гепатитов в мире ежедневно ВОЗ сообщила о 3500 смертях от вирусных гепатитов в мире ежедневно

ВОЗ представила доклад о вирусных гепатитах Global hepatitis report

N+1
По клеточкам По клеточкам

Неужели пептиды действительно способны подарить нам вечную молодость?

Лиза
Перед менопаузой есть «перименопауза». Вот как это влияет на психику женщин! Перед менопаузой есть «перименопауза». Вот как это влияет на психику женщин!

Как изменяется психологическое состояние женщины в зависимости от её возраста?

ТехИнсайдер
«Нельзя узнать Францию,.. «Нельзя узнать Францию,..

Почему все любят французскую кухню? Что сделало ее самой изысканной?

Зеркало Мира
От больших данных ждут большего От больших данных ждут большего

Рынок решений по хранению и обработке больших данных бурно растет

Монокль
Записки отельера: как вынести труп из гостиничного номера (желательно незаметно) Записки отельера: как вынести труп из гостиничного номера (желательно незаметно)

Истории из жизни отельера: одно забавное недопонимание

Правила жизни
Как производитель шприц-ручек для «Оземпик» завоевывает рынок лекарств для похудения Как производитель шприц-ручек для «Оземпик» завоевывает рынок лекарств для похудения

Как SHL Medical завоевал успех на рынке препаратов для похудения?

Forbes
Медики назвали самое удачное время для тренировки — это ночь Медики назвали самое удачное время для тренировки — это ночь

Когда лучше заниматься спортом: результаты исследования

ТехИнсайдер
Ссоры из-за денег: как и почему возникают финансовые разногласия между парой и в семье Ссоры из-за денег: как и почему возникают финансовые разногласия между парой и в семье

Основные причины финансовых разногласий в парах

Inc.
Ребекка Куанг: «Йеллоуфейс». Фрагмент из романа Ребекка Куанг: «Йеллоуфейс». Фрагмент из романа

Отрывок из романа-бестселлера о плагиате Ребекки Куанг

СНОБ
Урал: от природной кладовой к промышленному производству Урал: от природной кладовой к промышленному производству

Когда мы говорим о природных богатствах России, прежде всего вспоминается Урал

Знание – сила
Зоя Богуславская — от первого лица. Отрывок из новой книги воспоминаний писательницы Зоя Богуславская — от первого лица. Отрывок из новой книги воспоминаний писательницы

Фрагмент из книги о периоде до брака Зои Богуславской с Андреем Вознесенским

СНОБ
Над кем смеетесь? Над собой смеетесь: история самых популярных российских сатирических журналов в иронических набросках Над кем смеетесь? Над собой смеетесь: история самых популярных российских сатирических журналов в иронических набросках

Разбираемся в истоках комического в литературе и искусстве

Правила жизни
Чтобы кости были крепкими: 10 продуктов, богатых кальцием, которые нужно добавить в рацион Чтобы кости были крепкими: 10 продуктов, богатых кальцием, которые нужно добавить в рацион

Как питание может повлиять на здоровье костей?

ТехИнсайдер
Открыть в приложении