Профессор Сколтеха — об искусственном интеллекте и реальности сюжетов фантастики

РБКHi-Tech

Максим Федоров: искусственный интеллект в десяти вопросах и ответах

Профессор Сколтеха Максим Федоров рассказал РБК, к чему может привести неконтролируемое использование искусственного интеллекта и почему вполне реально повторение сюжета фантастических фильмов про любовь человека к машине.

Подготовила Людмила Клейменова

0:00 /
512.415
Фото: из личного архива

1Что такое искусственный интеллект (ИИ)?

Существует более 100 определений ИИ. Для меня ИИ — это система из нескольких компонентов, анализ, сбор и обработка данных, принятие решений на их основе и выполнение таких решений. Подобные системы могут называться ИИ.

Изначально термин произошел от английского слова intelligence, в котором заключены два смысла. Первый смысл — это сбор и обработка данных. Второй — непосредственно интеллект.

В 1950-х годах термин был введен именно в значении «искусственная система сбора и обработки данных». Не подразумевалось ничего, связанного с сознанием или когнитивными функциями человека.

2Сильный и слабый ИИ: в чем разница?

Сильный ИИ — это системы, которые могут воспроизводить и превышать весь спектр когнитивных способностей человека.

Слабый ИИ — это простые алгоритмы, с которыми мы сталкиваемся ежедневно: голосовые помощники, распознавание лиц, шахматные программы и т.д. В основном весь хайп, который мы сейчас наблюдаем, связан со слабым ИИ.

Сильного ИИ пока нет, и вряд ли он появится в обозримом будущем.

3Что такое этика ИИ?

Этики ИИ как таковой быть не может. Этика — это человеческая характеристика. Скорее, мы говорим про этику использования ИИ. То есть как люди должны правильно использовать ИИ.

4ИИ — субъект или объект?

От ряда стран поступают предложения о придании ИИ статуса квазичлена общества. Я считаю, что это очень вредное направление. Оно может привести к технорасизму, так как за каждой вещью стоит ее создатель или обладатель. То есть если я стукну кого-то молотком, будет однозначно понятно, что виноват я? Но если придать молотку субъектность, то начинается простор для размышлений: может, молоток сам ударил — давайте накажем молоток, разберем его и так далее. А я вроде как и не виноват уже, хотя стукнул-то я. То же самое в плане сложных систем.

5Кому выгодно наделять машины правами?

Есть группы заинтересованных лиц, которым хочется получать выгоду, но не хочется получать негативные рекламации. Поэтому они пытаются сделать хитрый ход — дать ИИ права и законно его поощрять или наказывать.

Техническим специалистам это кажется бредом, но идея активно продвигается на международных площадках. Потому что производитель получает прибыль от продажи устройства, обладатель может получать прибыль от использования, а если устройство наносит какой-то вред, то человек не виноват. История очень непростая и, я бы сказал, политизированная. В ней крутится много денег.

6Что такое цифровое неравенство?

Это неравный доступ к технологиям на уровне отдельных лиц, компаний или государств. Эта проблема касается не только ИИ. Подобные вопросы можно поднять и в технологиях аграрной области. Известно, что во многих странах сельскохозяйственные корпорации вытеснили локальных производителей, что привело к большому количеству экологических, социальных и других проблем.

7Главные отличия ИИ от других технологий?

Первое отличие ИИ от ряда других технологий — его распределенность. ИИ делокализован по определению. Это целый стек технологий, комбинация из наборов программных продуктов и железа, который распределен по всему миру через интернет. Поэтому ИИ может практически мгновенно распространять решения по всей планете. И человек может просто не отреагировать.

Скорости, на которых работают технологии ИИ, существенно выше скоростей человеческого мозга. Человек просто не в состоянии контролировать ряд процессов, которые ИИ выполняет за малые доли секунды.

Но насколько мы готовы к тому, что все больше и больше функций будет передано ИИ? Это достаточно опасный тренд.

Наконец, ИИ — это денационализация. В случае с ИИ сложно понять его принадлежность, какие интересы преследует технология.

8Человек способен полюбить робота?

Есть масса этических проблем, связанных с эмпатией, которую вызывают новые системы социальных роботов — это роботы, которые разработаны специально для ухода за престарелыми, больными. Насколько они должны быть близки к человеку по характеристикам и вызывать эмпатию? Или, наоборот, они должны быть специально сделаны нечеловекоподобными, чтобы не вызывать симпатию? Для многих людей это личностная трагедия. В моей практике был такой случай. Человек общался с ИИ в диалоговой системе, они «подружились». Но роботы не умеют дружить, они просто отвечают на запросы. А потом пришел хозяин и забрал робота, закрыл аккаунт. А у человека словно друг исчез.

9Почему чувства к машине — это неестественно?

Есть такое профессиональное понятие «липкие технологии» — когда человек к ним привыкает. Потому что там и голос, и интонации — полная иллюзия. Понимаете, в чем проблема? Все — иллюзия, у технологий нет сознания, они не умеют страдать и любить, но могут вызывать какие-то эмоции у людей. И владельцы технологий могут манипулировать людьми. Уже есть случаи вымогательства денег за продолжение пользования машиной. На этом должны быть сфокусированы разговоры об этике ИИ. Технологии не должны быть «липкими». Они должны четко демонстрировать, что вы разговариваете не с человеком.

10Есть ли предел в развитии ИИ?

Развитие ИИ ограничено из-за большого количества электроэнергии, которое потребляют эти системы. Некоторые надежды возлагаются на квантовые технологии, но если мы говорим о полупроводниках, то на плато развития мы уже почти пришли. И дальше энергии для развития уже не хватит. То есть мы очень близки к пределу. Я бы сказал, что скоро мы увидим замедление развития технологий в текущей парадигме, но это не значит, что нет рисков.

Максим Федоров — вице-президент Сколтеха в области искусственного интеллекта и математического моделирования, профессор, член экспертной группы ЮНЕСКО по выработке рекомендаций этических принципов разработки и использования искусственного интеллекта.

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Будущее пятого поколения Будущее пятого поколения

Время 4G на исходе. 5G серьезно изменит нашу жизнь

Популярная механика
Печень: чистить или любить? Печень: чистить или любить?

Расследование: как работает печень, как ее защитить и стоит ли чистить?

Здоровье
20 вещей, которые могут тебе пригодиться в постели 20 вещей, которые могут тебе пригодиться в постели

Объекты и явления, при помощи которых твой секс будет еще великолепнее

Maxim
Гибель сына и внука, шесть неудачных браков: печальная судьба Натальи Кустинской Гибель сына и внука, шесть неудачных браков: печальная судьба Натальи Кустинской

Трагическая история советской актрисы Натальи Кустинской

Cosmopolitan
Дресс-код доступа Дресс-код доступа

Как теперь понять, по какой «одежке» встречают в приличном обществе

Forbes
Авто года 2020 Авто года 2020

Торжественный смотр самых значимых достижений автопрома за минувшие 366 дней

GQ
Двойная игра Двойная игра

Иван Бегтин — о больших данных и мире без секретов

РБК
Песнь льда и пламени Песнь льда и пламени

Сказка «Серебряные коньки» станет звездным часом для этих питерских актеров

Vogue
Давид Ян: «В мире появится движение Robot lives matter» Давид Ян: «В мире появится движение Robot lives matter»

Давид Ян уверен, что нейросети нужен эмоциональный интеллект

РБК
Последние модели известных марок: как умирали ЗИЛ и Hudson Последние модели известных марок: как умирали ЗИЛ и Hudson

Какая машина последней сошла с конвейера «Хадсона», «Релианта», обычного ЗИЛа?

Популярная механика
Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News

Мы считаем, что интернет создан ради нас, но на деле его пользователи — боты

РБК
Сотрудничество с дизайнерами и трибьют в «Сексе в большом городе» — что связывает Марину Абрамович и моду Сотрудничество с дизайнерами и трибьют в «Сексе в большом городе» — что связывает Марину Абрамович и моду

Марину Абрамович называют «бабушкой перформанса» не просто так

Esquire
Рейтинг доверия Рейтинг доверия

Дмитрий Марков — о рисках и преимуществах биометрических систем

РБК
Бета-амилоиды в сетчатке указали на когнитивный дефицит и уменьшение объема гиппокампа Бета-амилоиды в сетчатке указали на когнитивный дефицит и уменьшение объема гиппокампа

Ученые узнали, как диагностировать болезнь Альцгеймера до проявления симптомов

N+1
Мобильный офис Мобильный офис

Как выпускница физфака построила мебельную компанию в России

Forbes
Audi e-tron. Зарядка раз в неделю Audi e-tron. Зарядка раз в неделю

Audi e-tron – один из самых современных и в каком-то смысле знаковых автомобилей

4x4 Club
С деньгами на выход С деньгами на выход

Как основателю стартапа привлечь инвестора с максимальной выгодой

РБК
Как Coca-Cola, Netflix и другие гиганты занимаются благотворительностью: главные тренды КСО в мире и России Как Coca-Cola, Netflix и другие гиганты занимаются благотворительностью: главные тренды КСО в мире и России

Самые популярные форматы взаимодействия бизнеса и НКО на Западе и в России

Forbes
Дачное время Дачное время

Можно ли охватить несколькими предложениями дачный мир?

Наука и жизнь
Лиза Арзамасова: Каждый новый день жду как чуда Лиза Арзамасова: Каждый новый день жду как чуда

Актриса Лиза Арзамасова не утратила веру в добрую сказку, даже став взрослой

Добрые советы
Экономика на высоких технологиях Экономика на высоких технологиях

Развитие ИТ-индустрии в Москвоской области стимулируется дополнительно

РБК

История Елены Мухиной, звезды советской спортивной гимнастики

Cosmopolitan
Прокачай себя! Тренировка c REBOOT LIVE # 6. Силовая тренировка ABS. Прокачай себя! Тренировка c REBOOT LIVE # 6. Силовая тренировка ABS.

Прощай, пивной живот! Здравствуйте, кубики!

Maxim
Кристоф Копен, директор мужской линии COS: «Людям всегда будет нужна одежда. Она неразрывно связана с образом жизни, который ты ведешь» Кристоф Копен, директор мужской линии COS: «Людям всегда будет нужна одежда. Она неразрывно связана с образом жизни, который ты ведешь»

Интервью с Кристофом Копеном, директором мужской линии COS

Esquire
«Современное искусство вместо наркотиков для расширения сознания»: что и зачем покупают российские коллекционеры «Современное искусство вместо наркотиков для расширения сознания»: что и зачем покупают российские коллекционеры

Почему художник должен страдать и зачем покупать целую выставку

Forbes
Может ли убить рублевая монета, упавшая с крыши небоскреба Может ли убить рублевая монета, упавшая с крыши небоскреба

Может ли монета, упавшая с крыши здания, нанести серьезную травму черепа?

Популярная механика
«Большая маленькая ложь»: выдающаяся история о проблемах среднего класса и женской доле «Большая маленькая ложь»: выдающаяся история о проблемах среднего класса и женской доле

И выдающаяся актерская игра Риз Уизерспун и Николь Кидман

Esquire
7 фактов о техасском Мэттью по фамилии Макконахи 7 фактов о техасском Мэттью по фамилии Макконахи

Путешественник по черным дырам и настоящий детектив Мэттью Макконахи

Maxim
«Не один дома: Естественная история нашего жилища от бактерий до многоножек, тараканов и пауков» «Не один дома: Естественная история нашего жилища от бактерий до многоножек, тараканов и пауков»

Отрывок из книги об организмах, живущих по соседству с нами в наших домах

N+1
«Мы все, начиная с Чулпан, в этой стране первопроходцы»: Ингеборга Дапкунайте — о фонде «Вера», эффективной благотворительности и реакции на критику «Мы все, начиная с Чулпан, в этой стране первопроходцы»: Ингеборга Дапкунайте — о фонде «Вера», эффективной благотворительности и реакции на критику

Интервью с Ингеборгой Дапкунайте о благотворительности, черных экранах и критике

Forbes
Открыть в приложении