Смогут ли системы функционировать без прямого вмешательства человека?

ForbesHi-Tech

Думай сам: когда человечество создаст сильный ИИ и как это отразится на обществе

Иван Гиганов

Бен Герцель (Фото Nora Tam / South China Morning Post via Getty Images)

Известный ученый и популяризатор концепции общего искусственного интеллекта (Artificial General Intelligence, AGI) Бен Герцель в ходе своего выступления на Beneficial AGI Summit 2024 в Панаме в марте предсказал появление ИИ, который будет таким же умным, как человек, уже в ближайшие три года. По его мнению, момент сингулярности в развитии ИИ быстро приближается. Создание ИИ, способного самостоятельно мыслить, волнует человечество. О том, смогут ли системы функционировать без прямого вмешательства человека, какие технологические препятствия существуют на данный момент, а главное — насколько обосновано создание такого искусственного интеллекта, рассказывает ИИ-эксперт и управленческий консультант Иван Гиганов.

Сильный и слабый ум

Под самостоятельным мышлением в контексте ИИ понимается его способность функционировать и принимать решения без прямого вмешательства человека. Эта способность — ключевой признак сильного ИИ, или AGI. Самостоятельное мышление предполагает наличие следующих навыков:

  • умения адаптироваться к выполнению новых, заранее не запрограммированных задач;
  • обучаемости на основе собственного, в том числе единичного, опыта;
  • критического мышления;
  • способности ставить себе новые задачи.

Такая система будет способна адаптироваться к любой новой задаче без необходимости специального программирования со стороны человека. Она сможет разложить сложную задачу на несколько простых, собрать необходимую информацию, обработать результаты и сделать логические выводы, предложить дальнейшие шаги и обучиться на полученном опыте. При этом сильный ИИ должен уметь взаимодействовать не только с цифровым миром, но и с физическим.

Современные же алгоритмы ИИ относятся к категории слабого. Они предназначены для решения узких задач: сгенерировать текст, поиграть в шахматы, спрогнозировать стоимость акций. У подобных систем нет гибкости — они ограничены заданными сценариями использования, а их ответы или действия обычно базируются на данных, которые в них внесли программисты и пользователи.

Мыслить независимо

Хотя современные алгоритмы относятся к слабому ИИ, некоторые из них уже обладают навыками, присущими сильному. Рассмотрим их подробнее.

Генеративные модели. Генеративные нейронные сети, лежащие в основе ChatGPT от OpenAI и Gemini от Google, приобрели впечатляющую обобщающую способность. Она позволяет им адаптироваться и решать задачи, выходящие за рамки первоначальных данных и функций, для которых они были обучены. Например, GPT-4, изначально обученный для генерации текста, близкого к человеческому, освоил принципы программирования и теперь может создавать часто работающий программный код. Многие современные генеративные модели являются мультимодальными, то есть могут работать с различными типами данных — не только с текстом, но и с видео или звуком. Это расширяет их способности анализировать и в будущем взаимодействовать с окружающим миром.

Кроме того, если попросить, эти модели способны разложить сложную задачу на более простые шаги, решить их отдельно и предоставить логически обоснованный ответ. Эта техника известна как «цепь рассуждений» (Chain-of-Thought). Конечно, эти модели не обладают концептуальным и ассоциативным мышлением, присущим человеку. Однако можно сказать, что они начинают проявлять зачатки того, что в будущем станет критическим мышлением.

Обучение с подкреплением. Технология обучения с подкреплением, или Reinforcement Learning (RL), позволяет ИИ учиться на основе собственного опыта, анализируя окружающую среду и испытывая различные стратегии действий. ИИ получает вознаграждение за желаемый результат и штраф — за нежелательный. Его задача — найти такую стратегию, которая позволит заработать максимальное вознаграждение.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как самому настроить свои Как самому настроить свои

Как человек может нормализовать свой сон, не прибегая к таблеткам

Популярная механика
Параллельные люди Параллельные люди

С какими альтернативными человечествами мы могли бы делить Землю?

Вокруг света
Вместо сахара Вместо сахара

Чем заменить сахар, а чем не стоит: полезные и вредные варианты

Лиза
Модели советских автобусов: когда появились первые автобусы в СССР Модели советских автобусов: когда появились первые автобусы в СССР

Какие из автобусов вошли в историю отечественного автопрома

РБК
Мебель века: 10 самых значимых предметов интерьера Мебель века: 10 самых значимых предметов интерьера

Топ-лист практичных арт-объектов, повлиявших на развитие мебельного дизайна

Psychologies
К чему может привести изменение магнитных полюсов Земли? К чему может привести изменение магнитных полюсов Земли?

Ученые подсчитали, что вот-вот может произойти новый сдвиг магнитных полюсов

Зеркало Мира
Как и зачем птицы помогают друг другу. Отрывок из книги Как и зачем птицы помогают друг другу. Отрывок из книги

Почему основным законом природы стоит считать не борьбу за выживание

СНОБ
6 советов тем, кто хочет победить химическую зависимость 6 советов тем, кто хочет победить химическую зависимость

Что может помочь отказаться от употребления веществ, изменяющих сознание

Psychologies
«Неужели все мужики такие, как говорит мама?»: история одного побега из дома «Неужели все мужики такие, как говорит мама?»: история одного побега из дома

Как дети справляются с утратой привычной жизни — и справляются ли?

Psychologies
5 неловких вопросов о сексе и честные ответы на них 5 неловких вопросов о сексе и честные ответы на них

Сексолог — о проблемах, с которыми люди сталкиваются в интимных отношениях

Psychologies
10 самых уродливых автомобилей всех времен и народов 10 самых уродливых автомобилей всех времен и народов

Как машины со столь отталкивающей внешностью вообще могли попасть на конвейер?

Maxim
«Джеймс Уэбб» подтвердил наличие экзопланеты в протопланетном диске путем ее необнаружения «Джеймс Уэбб» подтвердил наличие экзопланеты в протопланетном диске путем ее необнаружения

Телескоп понаблюдал за спиральным протопланетным диском у звезды MWC 758

N+1
Неловкого молчания больше не будет: как научиться поддерживать разговор с кем угодно Неловкого молчания больше не будет: как научиться поддерживать разговор с кем угодно

Как сделать любой разговор нескучным и непринужденным?

ТехИнсайдер
Высокоточные кассетные боеприпасы зарубежных стран Высокоточные кассетные боеприпасы зарубежных стран

Обзор самонаводящихся боевых элементов производства США

Обозрение армии и флота
«Претенденты» Луки Гуаданьино: как итальянец снял один из самых злых ромкомов этого года «Претенденты» Луки Гуаданьино: как итальянец снял один из самых злых ромкомов этого года

«Претенденты»: злой и хулиганский ромком от Луки Гуаданьино

Правила жизни
Что происходит с организмом, если долго хранить девственность Что происходит с организмом, если долго хранить девственность

Вредно ли для организма долго жить с девственностью или нет?

Psychologies
Как пережить родительское собрание: 10 полезных советов Как пережить родительское собрание: 10 полезных советов

Почему мы боимся родительских собраний и как минимизировать негатив от них?

Psychologies
На вилле «Прованс» На вилле «Прованс»

Вилла в стиле прованс на юге России

SALON-Interior
Ожидание и реальность не совпадут: 8 вещей, которые не следует покупать в онлайн-магазинах Ожидание и реальность не совпадут: 8 вещей, которые не следует покупать в онлайн-магазинах

Рассказываем, какие позиции точно не стоит добавлять в корзину

ТехИнсайдер
Стройность на кончике вилки Стройность на кончике вилки

Что такое форкинг-диета и правда ли на ней можно похудеть?

Лиза
Как сжать файл ПДФ: несколько простых способов для ПК и телефона Как сжать файл ПДФ: несколько простых способов для ПК и телефона

Сегодня мы расскажем, как сжать ПДФ документ, чтобы он весил меньше

CHIP
Невозможность острова Невозможность острова

«Зло не существует»: новый фильм Рюсукэ Хамагути

Weekend
10 способов чистки лимонной кислотой, о которых ты даже не подозревала 10 способов чистки лимонной кислотой, о которых ты даже не подозревала

Чистка лимонной кислотой — это классика уборки. Но знаешь ли ты о ней всё?

VOICE
Пеппи Длинный чулок уже 64 года! Как сегодня выглядит актриса, сыгравшая девочку-сорванца Пеппи Длинный чулок уже 64 года! Как сегодня выглядит актриса, сыгравшая девочку-сорванца

Как же сложилась жизнь Ингер Нильссон и как она выглядит сейчас?

VOICE
Зависть, иллюзии и конфликты: как социальные сети влияют на твои отношения с мужчиной? Зависть, иллюзии и конфликты: как социальные сети влияют на твои отношения с мужчиной?

В любви соцсети могут не только помочь, но и навредить

VOICE
Послеродовая депрессия: что нужно знать близким Послеродовая депрессия: что нужно знать близким

Послеродовая депрессия это не усталость, не «минутная слабость» и не каприз

Psychologies
Непослушные (?) слова Непослушные (?) слова

В чём хитрость исключений, в чём особенность непослушных слов?

Наука и жизнь
Первая пятилетка Первая пятилетка

Нереальные цифры, которые показались советским руководителям неамбициозными

Наука
Запад помог Востоку: что выиграл Китай от санкций против российских металлов Запад помог Востоку: что выиграл Китай от санкций против российских металлов

Санкции, наложенные на российские металлы, могут быть на руку Китаю

Forbes
Зачем производители клеят пленки на стекла смартфонов Зачем производители клеят пленки на стекла смартфонов

Производители клеят на смартфоны специальную пленку. Зачем она нужна?

CHIP
Открыть в приложении