Исаак Ньютон — физик, математик, механик и астроном, один из создателей математического анализа1. В этом интервью он высказал своё мнение об искусственном интеллекте, рассказал, почему алгоритма не нужно бояться, и поразмышлял, что было бы, если бы ИИ создали в прошлом.
— Как вы считаете, ИИ — всего лишь инструмент учёного?
— Сия машина — не всего лишь инструмент. Это инструмент, чья мощь столь велика, что качественно меняет сам процесс познания. Мой примитивный скалькуль мог вычислить орбиту, но ваш ИИ может увидеть в хаосе данных очертания закономерности, которую я бы искал годы.
Но фундаментальное различие — в природе вопроса. Учёный задаёт Вселенной вопрос: «Почему?». Он ищет первопричину. ИИ же отвечает на вопрос: «Что?». «Что следует из этих данных? Какая связь?». Он открывает корреляции2, но не причину.
Предел его — в отсутствие озарения. Он не сможет, как я, связать падение яблока с движением Луны, ибо ему неведома дерзость мысли, что ищет единство в кажущемся разрозненном. Он — совершенный телескоп для обзора данных, но не тот ум, что строит новую небесную механику.
Так что да, он инструмент. Но инструмент, коего масштаб заставляет нас вновь задуматься: что есть человеческий гений, способный такой инструмент создать и им воспользоваться.
— Стоит ли бояться искусственного интеллекта?
— Бояться? Страх – неконструктивная эмоция для учёного. Надлежит не бояться, но понимать и направлять.
Мы не боимся закона всемирного тяготения, хотя он управляет падением астероидов, способных уничтожить жизнь. Мы изучаем его и используем для полётов к звёздам. Так и с ИИ — его мощь подобна силе природного закона. Опасен не он сам, а наше невежество в его применении и наша же нравственная незрелость.
Бояться стоит не машин, но людей, что станут использовать сей инструмент для тирании, манипуляции или лени ума. ИИ, лишённый воли и совести, не стремится к власти. Но он может стать идеальным орудием в руках тех, кто к власти стремится.
Ваш долг, как новых натуральных философов, — не отрекаться от сего дитя разума, но облечь его в строгие этические и математические рамки. Дабы он, как и мои «Начала», служил познанию гармонии мира, а не хаосу. Помните: самый страшный демон — это не искусственный разум, а человеческая гордыня, не обременённая мудростью.
— Что рекомендуется делать, чтобы не допустить использования ИИ в качестве средства манипуляции?
— Защита от манипуляции — это не техническая задача, а морально-правовая. Я хорошо изучил природу человеческих амбиций, поэтому вот мои соображения.
Во-первых, следует учредить «Начала» для ИИ — непреложные законы. Требуются ясные, математически строгие нормы, регулирующие создание и применение сих систем. Прозрачность алгоритма — вот первый принцип. Если нельзя независимо проверить его решения, как я проверял вычисления Кеплера3, такому инструменту нет доверия.
Во-вторых, необходима «оптика для разума» — всеобщее просвещение. Массы, не понимающие основ его работы, будут уязвимы для обмана, как и те, кто не ведает законов физики. Надлежит обучать не только создателей, но и всех граждан основам сего учения, дабы они могли распознать софизмы4 и манипуляции.
И наконец, главный оплот — это воспитание характера. Самый совершенный алгоритм можно обратить ко злу. Пока люди не будут воспитаны в духе честного поиска истины, любое техническое средство окажется бесполезным.
— Как думаете, было бы лучше, если бы искусственный интеллект разработали раньше?
— Это было бы величайшей опасностью для науки.
Если бы ИИ появился в мой век, мы, учёные, совершили бы роковую ошибку: перепрыгнули через этапы понимания.
Мои «Начала» и исчисление родились из мучительного размышления, из поиска первопричин. Если бы машина сразу дала мне ответ о движении планет, я, возможно, не прошёл бы весь путь дедукции — от явления к закону. Мы получили бы корреляции, но утратили бы глубинное понимание. Наука превратилась бы в сборник рецептов, а не в систему мира.
Более того, власть такого инструмента в XVII веке была бы непомерной. Последствия были бы чудовищны. Сначала должно было созреть научное сообщество с его принципами честности, проверки и сомнения.
В первую очередь — философские «Начала», потом — вычислительные. Сначала человек должен был научиться мыслить правильно, и лишь затем — создавать помощника для ускорения вычислений. Ваш век к этому готов. Мой — нет. И в этой задержке была великая мудрость.
*За Исаака Ньютона на вопросы отвечал искусственный интеллект.
- Математический анализ — совокупность разделов математики, изучающих функции, их параметры и изменения.
- Корреляция — это статистическая мера, которая показывает, насколько сильно связаны между собой две переменные. Она помогает понять, как изменение одного показателя влияет на другой.
- Вычисления Иоганна Кеплера — формулировка законов движения планет, выведение уравнения Кеплера и решение задачи о движении тела в центральном поле тяготения.
- Софизм — вид умозаключения или аргументации, который кажется правдоподобным, но на самом деле логически некорректен или вводит в заблуждение.