Смогут ли системы функционировать без прямого вмешательства человека?

ForbesHi-Tech

Думай сам: когда человечество создаст сильный ИИ и как это отразится на обществе

Иван Гиганов

Бен Герцель (Фото Nora Tam / South China Morning Post via Getty Images)

Известный ученый и популяризатор концепции общего искусственного интеллекта (Artificial General Intelligence, AGI) Бен Герцель в ходе своего выступления на Beneficial AGI Summit 2024 в Панаме в марте предсказал появление ИИ, который будет таким же умным, как человек, уже в ближайшие три года. По его мнению, момент сингулярности в развитии ИИ быстро приближается. Создание ИИ, способного самостоятельно мыслить, волнует человечество. О том, смогут ли системы функционировать без прямого вмешательства человека, какие технологические препятствия существуют на данный момент, а главное — насколько обосновано создание такого искусственного интеллекта, рассказывает ИИ-эксперт и управленческий консультант Иван Гиганов.

Сильный и слабый ум

Под самостоятельным мышлением в контексте ИИ понимается его способность функционировать и принимать решения без прямого вмешательства человека. Эта способность — ключевой признак сильного ИИ, или AGI. Самостоятельное мышление предполагает наличие следующих навыков:

  • умения адаптироваться к выполнению новых, заранее не запрограммированных задач;
  • обучаемости на основе собственного, в том числе единичного, опыта;
  • критического мышления;
  • способности ставить себе новые задачи.

Такая система будет способна адаптироваться к любой новой задаче без необходимости специального программирования со стороны человека. Она сможет разложить сложную задачу на несколько простых, собрать необходимую информацию, обработать результаты и сделать логические выводы, предложить дальнейшие шаги и обучиться на полученном опыте. При этом сильный ИИ должен уметь взаимодействовать не только с цифровым миром, но и с физическим.

Современные же алгоритмы ИИ относятся к категории слабого. Они предназначены для решения узких задач: сгенерировать текст, поиграть в шахматы, спрогнозировать стоимость акций. У подобных систем нет гибкости — они ограничены заданными сценариями использования, а их ответы или действия обычно базируются на данных, которые в них внесли программисты и пользователи.

Мыслить независимо

Хотя современные алгоритмы относятся к слабому ИИ, некоторые из них уже обладают навыками, присущими сильному. Рассмотрим их подробнее.

Генеративные модели. Генеративные нейронные сети, лежащие в основе ChatGPT от OpenAI и Gemini от Google, приобрели впечатляющую обобщающую способность. Она позволяет им адаптироваться и решать задачи, выходящие за рамки первоначальных данных и функций, для которых они были обучены. Например, GPT-4, изначально обученный для генерации текста, близкого к человеческому, освоил принципы программирования и теперь может создавать часто работающий программный код. Многие современные генеративные модели являются мультимодальными, то есть могут работать с различными типами данных — не только с текстом, но и с видео или звуком. Это расширяет их способности анализировать и в будущем взаимодействовать с окружающим миром.

Кроме того, если попросить, эти модели способны разложить сложную задачу на более простые шаги, решить их отдельно и предоставить логически обоснованный ответ. Эта техника известна как «цепь рассуждений» (Chain-of-Thought). Конечно, эти модели не обладают концептуальным и ассоциативным мышлением, присущим человеку. Однако можно сказать, что они начинают проявлять зачатки того, что в будущем станет критическим мышлением.

Обучение с подкреплением. Технология обучения с подкреплением, или Reinforcement Learning (RL), позволяет ИИ учиться на основе собственного опыта, анализируя окружающую среду и испытывая различные стратегии действий. ИИ получает вознаграждение за желаемый результат и штраф — за нежелательный. Его задача — найти такую стратегию, которая позволит заработать максимальное вознаграждение.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Почва в объективе микроскопа Почва в объективе микроскопа

Микроморфология — наука, изучающая тонкие срезы почвы

Наука и жизнь
«Смогу тратить свой заработок»: как женщины в XX веке искали оплачиваемую работу «Смогу тратить свой заработок»: как женщины в XX веке искали оплачиваемую работу

Отрывок из романа Мейв Бинчи «Зажги свечу»

Forbes
Что нужно обязательно сделать с автомобилем, если вы уезжаете на длительное время Что нужно обязательно сделать с автомобилем, если вы уезжаете на длительное время

Перед тем, как оставить автомобиль без движения, нужно о нём позаботиться

Maxim
«Если что-то я оставлю после себя – это дети и фильмы» «Если что-то я оставлю после себя – это дети и фильмы»

Наталия Кончаловская взяла интервью у отца, режиссера Андрея Кончаловского

Правила жизни
Половина зумеров сталкивается с выгоранием в первый год трудоустройства Половина зумеров сталкивается с выгоранием в первый год трудоустройства

Зумеры выгорают раньше всех, а миллениалы не любят свою профессию

Forbes
Лошадиная сила Лошадиная сила

Когда автомобиль превратился в средство передвижения, лошади стали роскошью

RR Люкс.Личности.Бизнес.
«Джеймс Уэбб» подтвердил наличие экзопланеты в протопланетном диске путем ее необнаружения «Джеймс Уэбб» подтвердил наличие экзопланеты в протопланетном диске путем ее необнаружения

Телескоп понаблюдал за спиральным протопланетным диском у звезды MWC 758

N+1
Бескишечные морские черви, нефть, газ и жизнь на других планетах Бескишечные морские черви, нефть, газ и жизнь на других планетах

За чей счет существуют классические погонофоры?

Наука и жизнь
Как почистить шторы, не снимая их: 5 простых способов, которые экономят твои силы Как почистить шторы, не снимая их: 5 простых способов, которые экономят твои силы

Рассказываем про чистку штор без снятия — и даже без пылесоса!

VOICE
Почему вы всегда опаздываете Почему вы всегда опаздываете

Почему же вы продолжаете опаздывать?

ТехИнсайдер
Ученые выявили самый действенный способ борьбы с приступом агрессии Ученые выявили самый действенный способ борьбы с приступом агрессии

Как справиться с гневом, если дыхательные практики и битье посуды не помогают?

ТехИнсайдер
10 простых советов, которые помогут снова полюбить свою жизнь 10 простых советов, которые помогут снова полюбить свою жизнь

Советы, которые помогут снова почувствовать радость жизни

Psychologies
6 самых распространенных вопросов о флирте: отвечают ученые 6 самых распространенных вопросов о флирте: отвечают ученые

Можно ли научиться флиртовать?

Psychologies
«Космическая забастовка»: что на самом деле произошло на космической станции Skylab в декабре 1973 года «Космическая забастовка»: что на самом деле произошло на космической станции Skylab в декабре 1973 года

Что произошло на станции в 1973 году и почему эти события называют «забастовкой»

ТехИнсайдер
Какие мужские качества гарантируют счастливые отношения Какие мужские качества гарантируют счастливые отношения

Какие качества помогают мужчинам изменить и сохранить отношения в браке?

Psychologies
«Я могу сказать то, что  думаю, не опасаясь, понравится моя точка зрения или нет» «Я могу сказать то, что  думаю, не опасаясь, понравится моя точка зрения или нет»

Глава Capital Group, Павел Тё принадлежит к династии строителей

Правила жизни
13 пород собак с самым крепким здоровьем 13 пород собак с самым крепким здоровьем

Захотели обзавестись четырехлапым другом? Тогда обратите внимание на эти породы

ТехИнсайдер
Как производитель шприц-ручек для «Оземпик» завоевывает рынок лекарств для похудения Как производитель шприц-ручек для «Оземпик» завоевывает рынок лекарств для похудения

Как SHL Medical завоевал успех на рынке препаратов для похудения?

Forbes
Урал: от природной кладовой к промышленному производству Урал: от природной кладовой к промышленному производству

Когда мы говорим о природных богатствах России, прежде всего вспоминается Урал

Знание – сила
Марс в искусстве. Истории о Красной планете в музыке, литературе и театре Марс в искусстве. Истории о Красной планете в музыке, литературе и театре

Как музыканты, писатели и режиссеры изображали Марс в своих работах

СНОБ
А вы даете имя авто? Так делает 51% людей А вы даете имя авто? Так делает 51% людей

Похоже, автомобили — это не просто способ добраться из пункта А в пункт Б

ТехИнсайдер
Прощайте, ГЭС: как Америка поворачивает историю рек вспять Прощайте, ГЭС: как Америка поворачивает историю рек вспять

За последние четверть века американцы лишились уже более 2000 водохранилищ

ТехИнсайдер
В Москве поймали «кислотного маньяка» из Монино: как защитить себя от таких людей — инструкция В Москве поймали «кислотного маньяка» из Монино: как защитить себя от таких людей — инструкция

Есть ли способ помочь себе в случае агрессии маньяка?

Psychologies
Сценарист-фантаст и режиссер-провокатор: 9 фильмов Алекса Гарленда, которые стоит посмотреть Сценарист-фантаст и режиссер-провокатор: 9 фильмов Алекса Гарленда, которые стоит посмотреть

Освежите в памяти всю фильмографию Алекса Гарленда

Правила жизни
Как вулканы повлияли на атмосферу Венеры Как вулканы повлияли на атмосферу Венеры

В новой работе исследователей рассматривается вопрос вулканизма на Венере

ТехИнсайдер
Как 20 минут ежедневной ходьбы изменят вашу жизнь: 9 результатов Как 20 минут ежедневной ходьбы изменят вашу жизнь: 9 результатов

Как начать больше двигаться, не меняя кардинально свой образ жизни?

Psychologies
Семейный бюджет: с чего начать, чтобы всегда на все хватало Семейный бюджет: с чего начать, чтобы всегда на все хватало

Основные принципы построения семейного бюджета

Наука и техника
Ученые выяснили, почему зумеры стареют раньше положенного срока Ученые выяснили, почему зумеры стареют раньше положенного срока

Почему зумеры выглядят гораздо старше своих лет?

Psychologies
Обычные подозревающие Обычные подозревающие

10 главных параноиков мирового кино

Weekend
Как быстро слить воду из организма: инструкция для периода праздников Как быстро слить воду из организма: инструкция для периода праздников

Как быстро справиться с отечностью?

VOICE
Открыть в приложении