«Сюжет «Терминатора» может стать реальностью»
Истории людей, которых пугает искусственный интеллект
Герои нашей статьи поделились своими мыслями, связанными с реальностью, где люди будут (уже начали) подстраиваться под роботов
Диана Фомченкова, инженер-конструктор, Москва
Я – инженер, человек от науки и технологий. Стараюсь быть в курсе всех новых веяний и постоянно пользуюсь программами на основе нейросетей. Например, обрабатываю фото и видео, генерирую изображения и тексты, конвертирую 2D- и 3D-модели. При этом искусственный интеллект вызывает у меня опасения – в контексте его дальнейшего развития. В этом плане мне близки мысли Илона Маска, одного из основателей OpenAI (Компания, которая занимается разработкой и лицензированием технологий на основе машинного обучения. – Прим. ред.) Как и Маск, я считаю, что развитие ИИ нужно держать под контролем, чтобы избежать непредвиденных жутких последствий. Иначе сюжет фильма «Терминатор» может стать реальностью, ведь сценаристы и писатели не раз предсказывали проблемы, вызванные передовыми изобретениями. Искусственный интеллект вполне может перерасти в нечто такое.
На данном этапе я немного опасаюсь неизвестности, связанной с моей специальностью в будущем. Ведь уже часть работы, которую раньше делали инженеры, делегировали ИИ. В том числе, потому что они эффективнее: сокращают время разработки проектов, точнее прогнозируют технические параметры, снижают вероятность ошибок. Совершенно точно, что ИИ скоро вытеснит человека из ряда профессий. Например, профильные приложения и сервисы на базе ИИ легко выполняют задачи дизайнера, ретушера, иллюстратора, копирайтера, переводчика и даже части программистов. Чтобы адаптироваться к новой реальности, нужно изучать новые технологии.
Думаю, что главное условие для безопасного внедрения ИИ в нашу жизнь – это разработка надежных и качественных протоколов безопасности в сфере искусственного интеллекта. Пока это условие не создадут, страх перед разрастающимся влиянием ИИ никуда не денется.
Андрей Кашкаров, журналист, Москва
Мои тревоги насчет искусственного интеллекта связаны с бесконтрольностью его применения, отсутствием каких-либо этических составляющих. Есть и другие опасения. Например, если в медицине ИИ начнет принимать решения вместо дипломированного врача или под номинальным контролем последнего. Уверенности в четкой постановке диагноза в этом случае не будет, поскольку ИИ использует анализ формализуемых данных. Это может стать причиной фатальной ошибки. И кто понесет ответственность? Еще одна опасность: искусственный интеллект давно и успешно применяют в системах наблюдения, контроля и безопасности. Нейросети легко могут следить и за банковскими транзакциями по номерам телефонов, социальным и дисконтным картам и всему, что имеет оцифрованный вид. Значит, все мы станем еще уязвимее. Проблема еще и в том, что все полученные данные будут поступать к человеку, а как он уже станет их использовать – большой вопрос.
В моей сфере (журналистика) ИИ может выявлять актуальную новостную повестку. При этом читать новости и выбирать главное все равно придется мне. Выезжать на место и перепроверять факты тоже буду я. Если полностью доверить это ИИ, снова возникнет вопрос об ответственности и компенсации за ошибки. Что могло бы уберечь от этих рисков? Наверное, четкое понимание кто, как и за что отвечает, какие гарантии государство несет перед гражданином от несанкционированного применения ИИ против людей. Также нужна обратимость явления. Чтобы не получилось, как в фантастических рассказах: ИИ выходит из-под контроля и сам начинает создавать себеподобные системы и угрожать человеку.
Александра Веретено, старший преподаватель ОмГУ им. Ф.М. Достоевского, Омск
Опасения по поводу ИИ начались сразу, как эта тема стала популярной, – а это было в середине XX в. Мои личные переживания усилились с развитием глубокого обучения нейросетей. Большинство страхов связаны с последствиями внедрения ИИ в различные аспекты нашей жизни, как, например, замена людей на рабочем месте, этические вопросы, проблемы приватности, а также теоретическая возможность создания суперинтеллекта, который может выйти из-под контроля человечества. Понадобилось какое-то время, чтобы адаптироваться и начать использовать ИИ в своей работе. Как и многие, пока не знаю, куда это все приведет. Такая неизвестность пугает, но в то же время понимаю, что теперь это неотъемлемая часть нашей жизни. Недавняя новость об ИИ, которую я прочитала, это подтверждает. Ученые провели тестовое использование программы в области здравоохранения – для диагностики и лечения заболеваний. Например, ИИ уже может анализировать медицинские изображения и предсказывать возможность развития определенных болезней. Такая опция помогает врачам точнее и быстрее ставить диагнозы.
Фото: Who is Danny, ihorvsn/stock.adobe.com; ShutterStock/Fotodom.ru.
Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl