Доцент СФУ Михаил Бухтояров — об опасности искусственного интеллекта: «Технологии можно применить так, чтобы человечество отказалось от своих прав» — Популярная наука — 7 канал Красноярск

Доцент СФУ Михаил Бухтояров — об опасности искусственного интеллекта: «Технологии можно применить так, чтобы человечество отказалось от своих прав»


22 февраля 2020

Михаил Бухтояров — кандидат философских наук, доцент кафедры глобалистики и геополитики Гуманитарного института Сибирского федерального университета.
Сфера научных интересов: проблемы глобализации, этика искусственного интеллекта и цифровое образование.

— Представляет ли искусственный интеллект опасность для человечества?

— Есть разные точки зрения по этому поводу. Дело в том, что любые вопросы, гипотетические сценарии развития, связанные с тем, что будет — для нас представляют скорее предмет для дискуссий. Есть предположение, что искусственный интеллект может быть в перспективе опасен, есть целое направление технологического алармизма (убежденность в том, что технологии опасны для человечества), то есть те, кто очень беспокоится, что технологии принесут что-то страшное. Это не только фильм «Терминатор» и «Матрица» или что-то подобное — нет, это вполне серьезные исследователи. К примеру, Ник Бостром, оксфордский ученый, который занимается проблемой экзистенциальных рисков, то есть рисков, которые представляют угрозу для всего человечества. В списке экзистенциальных рисков, на самом деле, присутствует очень продвинутый, усилившийся искусственный интеллект, который может представлять собой угрозу для всего.

Что касается сильного искусственного интеллекта — на данный момент у нас его точно нет. Мы находимся в процессе исследования того, что называется general artificial intelligence — это искусственный интеллект, который может все то, что может человеческий разум, человеческий мозг. Эти исследования далеки даже от приблизительного завершения. А вот сильный искусственный интеллект… есть большой философский вопрос: возможен ли он принципиально? Потому что мы, оказывается, на данный момент, вместе с исследованиями в области искусственного интеллекта, все больше узнаем об интеллекте человеческом: о человеческом сознании, о том, как мы на самом деле мыслим.

— В каких профессиях роботы пока не могут заменить человека?

— Те профессии, которые требуют именно эмпатии, присутствие человека, которые подразумевают человека и человеческое взаимодействие, они могут оставаться довольно долго с нами. Если мы говорим об учителе, то мы прекрасно понимаем, что сейчас в этой сфере происходит революция образования, обучения! Уже есть огромное количество сервисов, есть огромное количество того, что позволяет усилить обучение за счет каких-то интеллектуальных компонентов, игровых или тех, которые позволяют экспертную оценку выносить на внешний круг — машина может помогать в этом. Но, в любом случае, даже если мы получаем очень удобные, достаточно дешевые и оправданные экономически инструменты, это не значит, что они автоматически сразу завершают то, что было традиционным.

То же самое в медицине. Мы понимаем, что какое-то время врачи будут усиливаться за счет тех инструментов, которые предлагают технологии. Вопрос самый большой — это автомобили, которые смогут водить без водителя. Понятно, что изменения не произойдут одномоментно. Правила, дороги, самые разные условия вождения, которые могут не совпадать! На все изменения потребуется какое-то время. Бывают случаи, когда крупные игроки принимают какие-то стратегические решения. Так было несколько лет назад в компании Foxconn. Там большое количество работников уже работников заменили роботами. Но на глобальном рынке такого одновременного замещения не происходит.

— Есть ли у искусственного интеллекта мораль?

— Беда в том, что нет на данный момент никакого универсального решения. Может быть, это не беда, а естественное состояние. Дело в том, что философы, те, кто занимается этикой, долгое время искали универсальное основание. Недавно проводилось исследование в Массачусетском технологическом институте: moral machine, машина морали. Универсального основания в этике нет. Универсальных ответов на вопросы этики нет, они будут зависеть от страны или региона проживания. Это то, с чем, скорее всего, придется иметь дело компаниям. Мы же уже сейчас имеем разные способы, которыми компаний взаимодействует с разными странами, с разными законодательными системами и рецензия, которая будет в одной стране, может оказаться другой в другой.

— Когда-нибудь роботов и людей уравняют в правах?

— Множество красивых фильмов, которые ставят вопрос о том, что робот становится мыслящим, сознающим, тем существом, которое практически равно человеку и воспринимается нами как человек… я не думаю, что это станет проблемой в ближайшем будущем. Более того, имитация сознания, имитация поведения разумного, это все-таки не само поведение. Я не думаю, что проблема робота, который относительно самостоятелен, встанет именно в таком разрезе: наделять или не наделять его правами? Вопрос в том, что человеческое существо может терять некие права, на мой взгляд.

— Грозит ли людям безработица в будущем?

— В текущей экономической системе мы уже почти безработные. Посмотрите, то есть, если мы многие виды работы посмотрим, то, что сейчас происходит. Например, в нашей стране значительное количество людей зарабатывают деньги тем, что охраняют что-то: охранники в магазинах, охранники на вахтах, охранники в университете. Это может быть очень легко уменьшено с точки зрения систем слежения, безопасности. Это как раз то, что может быть уменьшено по количеству людей, занятых в этой сфере, но этого не происходит. То же самое в других сферах, например, продавцы в супермаркетах. Мы знаем, что сейчас есть полностью автоматизированные системы. Пока этого не происходит. Многие компании и государства искусственно создают рабочие места. Есть огромный массив людей, причем возраста вхождения в работу, то есть это люди порядка 20-25 лет, у которых на данный момент нет работы. Но у них есть маленькая пластиковая коробка — сотовый телефон. Эти люди могут между собой общаться, могут много чего делать. Сидим за пластиковой коробкой часами, но при этом работы как таковой для этих людей нет. И, вот, он говорил, что это гигантская проблема. Даже на самом топе думают о том, чем занять людей.

— Чего вы ждете от развития технологий больше всего?

— Я все-таки надеюсь на то, что мы сможем получить технологии, которые освободят время. Для человека, на мой взгляд, самое ценное — это его время, его возможности проводить это время таким образом который представляет наибольшую для него/для нее ценность. Технологии могут это сделать. На сегодняшний день вопрос в системе экономических отношений, в нашей культуре, в наших представлениях о там, как мы можем распорядиться этим временем. Как мне кажется, технологии, освобождающие нас от каких-то рутинных функций, рутинных действий — это то, что может очень сильно помочь.

— В чем самая большая угроза будущего?

Это закрытие технологий и их использование исключительно в военных целях, в целях конкуренции и в целях, которые могут принести вред человеку, имеется в виду в широком смысле человеческим сообществом. Технологии, которые могут использоваться для не освобождения, но контроля. Все мы прекрасно понимаем, что любая технология несет противоположные смыслы, противоположны значения. С одной стороны, она может помогать, с другой — может очень сильно сжимать и начинать доминировать, контролировать. Приобретая технологии, даже уже те, которые сейчас доступны, некоторые группы людей очень сильно увеличивают свое влияние, свои возможности. Вот такая монополизация контроля может сыграть, на мой взгляд, очень злую шутку.