Предисловие переводчика
С тех пор как люди начали работать над созданием искусственного интеллекта постоянно идет дискуссия о возможности создания искусственного интеллекта (ИИ) сверхчеловеческого уровня. Большое количество мыслителей и философов пытаются доказать, что создание таких сверхумных машин невозможно.
Известно не менее 7 аргументов в пользу того, что ИИ никогда не сможет превзойти человека. Восемь лет назад, 1 апреля, девять крупных специалистов по компьютерным наукам, физике, философии и футурологии опубликовали веселую работу, в которой использовали, по сути эти же 7 аргументов, заменив лишь термин «интеллект» на термин «размер». Это работа «О невозможности создания машин сверхбольшого размера» [1].
Поскольку эта статья широко цитируется в мире, но практически незнакома русскоязычным студентам и сотрудникам БФУ им. И. Канта, я счел необходимым перевести ее на русский язык и выложить здесь, подгадав к годовщине первой публикации, украсив парой впечатляющих рисунков. Заметим, что последний седьмой аргумент, в оригинальном изложении, показался мне несколько невнятным, и я переформулировал его в меру собственного разумения.
Таким образом, существенная часть раздела 1.7 фактически написана мною, однако я, разумеется, счел излишним добавлять свое имя в список авторов и буду вполне удовлетворен ролью переводчика. Для удобства читателей все же сообщаю: мой текст набран курсивом. Приятного чтения и с 1 апреля!
С уважением, д.ф-м н., профессор Артем Юров.
[1] Ben Garfinkel, Miles Brundage, Daniel Filan, Carrick Flynn, Jelena Luketina, Michael Page, Anders Sandberg, Andrew Snyder-Beattie, Max Tegmark, «On the Impossibility of Supersized Machines», arXiv:1703.10987 [cs.CY]
О невозможности создания машин сверхбольшого размера
Введение
В последние годы ряд выдающихся ученых в таких областях, как компьютерные науки, философия и физика, стали поддерживать идею о том, что в один прекрасный день, машины могут стать такими же большими, как люди. Многие также утверждали, что машины могут даже значительно превзойти человеческие размеры. Однако есть как минимум семь различных аргументов, препятствующих такому заключению. Мы показываем, что превышение машинами человеческих размеров, не только маловероятно, но и фактически невозможно.
Историю жизни часто понимают, как историю роста. Эволюция демонстрирует увеличение размера по экспоненте, от наших крохотных предков, которые были немногим больше, чем самовоспроизводящиеся молекулы, до огромных существ, которыми мы являемся сегодня (Payne, 2009).
Хотя наличие экспоненциальной кривой роста было осознано только в 19 веке, благодаря работам Чарльза Дарвина, мы видим подтверждение этого факта, каждый раз, когда в мир приходит (Darwin, 1859) новая жизнь. Действительно, прежде чем каждый человек станет взрослым и большим, он прежде окажется фактически невидимой маленькой клеточкой.
Возможно, поэтому неудивительно, что размеры человека на протяжении тысячелетий очаровывали многих из наших величайших мыслителей. В то время как одни пытались понять природу и происхождение большого размера, другие с тревогой спрашивали: может ли когда-либо появиться что-то большее чем человек?
Свидетельства этого беспокойства можно найти еще в самом древнем зарегистрированном мифе человечества — «Эпосе о Гильгамеше», в котором чудовищный гигант Хумбаба назначен Энлилем, царем богов, терроризировать человечество (Sandars, 1972). С этого момента воинственные гиганты постоянно присутствуют в нашей литературе, появляясь в произведениях от «Одиссеи» Гомера до английской сказки ''Джек и бобовый стебель» (Homer, 1994; Anonymous, n.d.).
Со временем, возможно, в ответ на растущее господство нашего вида над природой, стало все более обычным рассказывать истории, в которых люди создают более крупных, чем человек, ''огромных'' существ, которые, в дальнейшем становятся угрозой своим создателям. В течение нескольких поколений аудиторию привлекали рассказы об ужасных порождениях, таких как чудовище доктора Франкенштейна, которое описывается, как монстр более восьми футов высотой, и големы Каббалы, которые, как опасались некоторые раввины, вырастут достаточно большими, чтобы разрушить всю вселенную (Шелли, 2008; Моше, 1990)!
Однако этот архетип, возможно, никогда не был более распространенным, чем в современных голливудских фильмах. Вдохновленные неуклонным движением технического прогресса и фантазиями футурологов, наши СМИ наполнились изображениями огромных машин-убийц (картинка ниже взята с обложки альбома великой группы Queen «News of the World» (АВЮ)).
В серии фильмов «Трансформеры», машины, известные как Десептиконы (Decepticons), каждая размером с сотню человек, постоянно угрожают истребить человечество своими огромными металлическими телами (Bay, 2007). Во многих фильмах серии ''Годзилла'' машины настолько велики, что могут сокрушить часть Токио одним движением (Хонда, 1975). Мы обнаруживаем, что в таких сериалах, как «Матрица» и «Терминатор» (примечательном актером исключительно крупного размера!) и бесчисленном множестве других также присутствуют сверхбольшие машины, стремящиеся привести человеческий вид к полному вымиранию (The Wachowskis, 1999; Cameron, 1984). Более того, в последние годы ряд ученых-компьютерщиков, философов и других представителей академической науки публично подтвердили возможность создания сверхбольших машин. Заявления этих деятелей широко освещались и продолжают освещаться в СМИ [2].
Однако, возможно, к счастью, все предсказания грядущей эры крупногабаритных машин в корне ошибочны. Мы приводим семь различных аргументов, каждого из которых достаточно, чтобы показать, что сверхбольшие машины невозможны [3].
[2] Кроме того, в статьях о последних тенденциях в информатике стало обычным явлением использовать такие термины, как «большие данные» и «массивные нейронные сети», что может быть неправильно истолковано. Читая эти статьи, даже те, которые появляются в газетах с хорошей репутацией, часто неясно, осознают ли их авторы, что использование языка размеров в этих контекстах является чисто метафорическим!
[3] Стоит пояснить, что сегодня, конечно, существуют системы, которые в узком смысле, превышают человеческие размеры. Фонарные столбы — один из примеров. Предсказания, которые мы рассматриваем, касаются некоторого более общего представления о размере.
1. Аргументы против сверхбольших машин
1.1. Непреодолимая сложность человеческого тела
Несмотря на то, что биология развития была активной областью исследований на протяжении сотен лет, она почти не продвинулась дальше своих начальных стадий. Мы далеки от того, чтобы рассказать историю во всех смыслах, кроме самых грубых, о том, как человеческая зигота может за два десятилетия трансформироваться во взрослого человека, который на несколько порядков крупнее (Cameron, 2012).
Ученые готовы идентифицировать черты, которые коррелируют с размерами (например, определенные генетические маркеры), но у них нет ничего похожего на полную теорию причинных путей, объясняющих эти корреляции. Все попытки построить такую теорию были заблокированы несжимаемой сложностью человеческого тела, которое содержит десятки тысяч различных белков (Wilhem, 2014). Кажется, неизбежным, что по этой же причине, все будущие попытки также потерпят неудачу.
Поскольку мы не можем постичь процессы, ответственные за масштабность человека, отсюда следует, что мы никогда не сможем создать машины, превосходящие эти размеры.
1.2. Бессмысленность понятия «масштаба человеческого уровня»
Простая причина, по которой мы можем смело отвергнуть все предсказания о грядущем появлении сверхбольших машин, состоит в том, что эти предсказания на самом деле сформированы неправильно.
В самом деле, термин «сверхбольшая машина» подразумевает машину, которая перешагнула некоторый порог, который часто обозначается «масштабом человеческого уровня». Однако неясно, что может означать этот «масштаб». Достигла ли машина размеров человеческого уровня, если она была такого же роста, как средний человек? Или такого же объема? Такого же веса? Или какой-то более сложный признак, возможно, умножение логарифма обхвата на квадрат высоты? [4]
[4] Отметим также, что люди довольно сильно различаются по всем этим параметрам, и что даже среди людей нет единой принятой меры «крупности» (Pomeroy, 2015).
Когда кто-то начинает рассматривать эти вопросы, он быстро приходит к выводу, что существует бесконечное количество метрик, которые можно использовать для измерения масштабов, и что люди, которые говорят о «сверхбольших машинах», не имеют в виду какую-то конкретную метрику. Несомненно, тогда любая машина будущего будет больше людей по одним параметрам и меньше людей по другим параметрам, как и сегодня.
Можно сказать, заимствуя знаменитую фразу Вольфганга Паули, что предсказания о возможности существования сверхбольших машин «даже не ошибочны» (Peierls, 1960), они попросту бессмысленны.
1.1. Универсальность человеческой «крупности»
Еще одна причина, по которой бессмысленно говорить о машинах, которые больше людей, заключается в том, что люди уже обладают свойством универсального размера.
Под этим мы подразумеваем, что люди способны увеличивать свое тело или собираться вместе, чтобы стать сколь угодно большими, независимо от выбранной метрики. Если человек хочет быть выше, он может встать на стул или забраться на плечи другого человека. Если они хотят быть шире, они могут перейти на высококалорийную диету или просто надеть толстый свитер (Hensrud, 2004; рис. 1). Зарегистрированы случаи, когда люди соединяли свои тела вместе, чтобы достичь высоты до 12 метров (Книга рекордов Гиннеса, 2013).
Короче говоря, поскольку не существует физического закона, ограничивающего размеры человека, люди могут быть любого размера. Отсюда следует, что никакая машина не может быть больше человека, по определению.
1.2. Психологические истоки веры в сверхбольшие машины
Вполне естественно, что у наших предков возник страх перед существами, превосходящими их самих. Чем больше размер члена племени, тем больше он способен применять насильственное принуждение к другим членам или воровать своих товарищей (Брюэр, 2009). По этой причине бдительность в отношении возможности очень больших особей была очень выгодной чертой, с эволюционной точки зрения.
Хотя сейчас масштабность играет гораздо меньшую роль, по крайней мере, в развитых индустриальных и постиндустриальных обществах, у человеческой психологии было мало времени на адаптацию (Donald, 1993). Более того, с учетом центральной роль, которую играют технологии в современной жизни, неудивительно, что многие люди (особенно «альфа-самцы», запутавшиеся в культуре Кремниевой долины) стали испытывать страх перед сверхбольшими машинами.
Таким образом, именно эволюция, а не логика или исторические свидетельства, служит истинным источником распространенной веры людей в то, что сверхбольшие машины возможны. Отсюда следует, что мы можем смело считать это убеждение ложными.
1.3. Люди и машины вместе всегда будут больше, чем машины по отдельности
Когда писатели обсуждают возможность создания сверхбольших машин, они, похоже, упускают из виду одно важное соображение: никакая машина не может быть больше, чем та же самая машина и человек вместе взятые.
Если машинам предстоит сыграть роль в продвижении вперед границы масштабов, то эта роль может быть только дополнением человеческого размера. Это еще одна простая причина, по которой просто бессмысленно воображать машины больше, чем человек [5].
[5] Это соображение также предполагает, что заслуживающие доверия исследователи машин огромных размеров, должны сосредоточиться на человеко-машинных интерфейсах, которые позволяют прикреплять машины, увеличивающие размер, непосредственно к человеческому телу. Уже реализованные перемещения на ходулях могут указывать на одно многообещающее направление исследований (Smith, 2010).
1.1. Трудная проблема большого размера
Предположим, кто-то должен был признать, что машины могут стать такими же большими, как люди, в некотором смысле, связанном с физическим увеличением размера (хотя это, конечно, невозможно). Даже если бы это было так, все равно оставался бы второй, более значимый смысл слова «большой», который не применялся бы к этим машинам.
Этот второй вид «крупности» возникает всякий раз, когда кого-то называют «большим, чем жизнь» или «живущим в большом масштабе» (Tom, 2004). Подобная крупность — это нефизическое (то есть неприродное) свойство, отдельное от обыденного физического свойства, которое чаще всего обозначается словом «крупность».
Таким образом, чтобы построить большую машину в осмысленном подходе, мы должны сначала решить «трудную задачу» определения того, что это за нефизическое свойство и как оно возникает. Однако совсем не ясно, разрешима ли такая проблема, поскольку традиционные научные методы кажутся приспособленными только для решения вопросов, касающихся физического мира (Hall, 2010). Более того, представление о машине, «живущей в большом масштабе», кажется интуитивно неправдоподобным (возможно, даже абсурдным).
Следовательно, машины никогда не будут действительно (сверх)большими.
1.2. Квантовая механика и первая теорема Гёделя о неполноте
Квантовая теория в ее традиционной формулировке делит мир на микросистемы и макросистемы (Гейзенберг, 1949). Внутри микросистем лежат маленькие объекты, такие как частицы, а внутри макросистем — большие объекты, такие как люди.
Теория говорит нам, что объекты в микросистемах могут изначально вообще не иметь определенных свойств, так что на любой вопрос, касающийся положения, импульса и т. д. у данной частицы, просто не будет ответа. Однако замечательная способность, которой обладают люди в результате их огромных размеров, — это способность заставлять объекты в микросистемах приобретать определенные свойства, проводя над ними «измерения». Например, если человек «измеряет», что частица имеет определенное местоположение, то это становится фактом, того что частица имеет это местоположение.
Одна из великих загадок квантовой механики, которую ее создателям так и не удалось разрешить, — это вопрос о том, что отличает микросистемы от макросистем (Bell, 1990). Кажется, мы должны понять, что существует некая фундаментальная граница, отделяющая большое от малого, так что маленькие объекты существуют в своего рода неопределенном состоянии, пока большие объекты не проведут над ними измерения. Однако мы не понимаем, как и где следует проводить эту границу, и трудно понять, как и почему она вообще существует. Проблема осмысления этой границы и, тем самым, раскрытия природы огромных размеров известна как ''проблема измерения''. Таким образом, с фундаментальной точки зрения, решению проблемы создания сверхбольших машин должно предшествовать решение проблемы измерения, что, по крайней мере пока, выглядит чрезвычайно далекой перспективой.
Более того, если малые объекты приобретают свойства за счет измерения со стороны больших, а большие возникают из малых, то становится ясным, что свойство «быть большим», а значит и свойство быть «сверхбольшим» относится к самореферентным (самоописывающимся) объектам. Другими словами, описание объектов, которые обладают свойством быть «достаточно большими», должно содержать само себя. Это означает, что любая формальная модель «сверхбольших» объектов будет ограничена первой теоремой Курта Гёделя о неполноте (Gоdel, 1931). Эта теорема была впервые доказана в 1931 году, хотя ее полное значение, вероятно, еще предстоит оценить. Теорема утверждает, что для любой достаточно выразительной формальной системы система должна быть либо непоследовательной, либо неспособной доказать истинность или ложность всех утверждений, которые можно выразить в рамках системы. Это можно интерпретировать одним из двух способов: (1) существование «сверхбольших объектов» является логическим противоречием или (2) их существование непротиворечиво, однако не существует алгоритма, позволяющего построить сверхбольшие объекты из малых. В обоих случаях, нам никогда не удастся создать сверхбольшие машины.
2. Заключение
Мы представили семь различных аргументов против возможности создания крупногабаритных машин сверхчеловеческого масштаба. Хотя каждого из этих аргументов было бы достаточно, их совокупность, несомненно, представляет собой непреодолимый барьер для веры в то, что эра сверхбольших машин действительно находится уже где-то на горизонте [6].
[6] Можно задаться вопросом, почему мы сочли необходимым продемонстрировать принципиальную невозможность существования крупногабаритных машин, вместо того, чтобы аргументировать гораздо более слабое утверждение о том, что сверхбольшие машины вряд ли будут разработаны в ближайшее время. Причина в том, что, как это ни парадоксально, многие ученые, выражавшие озабоченность по поводу сверхбольших машин, похоже, соглашаются именно с этим, более слабым утверждением. Они аргументируют это с позиции, которая в настоящее время вызывает споры среди политиков, что стоит готовиться к отдаленным или маловероятным событиям (Bedford, 2001). Эта позиция побудила многих занять столь же провокационную позицию в пользу смягчения последствий изменения климата, обеспечения готовности к пандемии и использования ремней безопасности.
Наш вывод, по крайней мере в одном отношении, приносит облегчение: нет никаких причин опасаться нелепых историй об огромных машинах Терминатора. Однако, с другой стороны, наш вывод можно было бы также расценить и как печальный: мы — самые большие создания во Вселенной, и никогда не будет иначе.
В самом деле, фантазии о сверхбольших машинах не только внушают страх, но и привлекают, ибо заманчиво вообразить эти машины как усовершенствованные версии нас самих. Они такие, какими были бы люди, если бы мы стали намного крупнее: мы оказались бы более устойчивы и более способны смотреть на мир сверху вниз, с далекой, возвышенной мудростью, вместо того, чтобы постоянно запутываться в незначительных деталях, близких к земле. Приятно думать, что если мы не можем решить наши собственные проблемы здесь, на Земле, то, возможно, это только потому, что нам не хватает размера.
Мир, в котором мы самые большие мыслимые субъекты, — это мир, лишенный подобных утешительных оправданий, однако мы считаем, что это прекрасно! Пора перестать мечтать о чем-то большем, чем мы сами, и пора начать понимать, насколько мы велики на самом деле!
Список литературы
[1] Aczel, Peter. «Non-well-founded sets.» (1988).
[2] Anonymous. «Jack and the Beanstalk.»
[3] Bay, Michael. Transformers. DreamWorks Pictures, 2007. Film.
[4] Bedford, Tim, and Roger Cooke. Probabilistic Risk Analysis: Foundations and Methods. Cambridge University Press, 2001.
[5] Bell, John. «Against measurement.» Physics world 3.8 (1990): 33.
[6] Brewer, Gayle, and Charlene Riley. «Height, relationship satisfaction, jealousy, and mate retention.» Evolutionary Psychology 7.3 (2009).
[7] Cameron, James. The Terminator. Orion Pictures, 1984. Film.
[8] Cameron, Noël, and Barry Bogin. Human growth and development. Academic Press, 2012.
[9] Darwin, Charles. On the Origin of Species. 1859.
[10] Donald, Merlin. «Human cognitive evolution: What we were, what we are becoming.» Social Research (1993): 143-170.
[11] Gardiner, Crispin, and Peter Zoller. Quantum noise: a handbook of Markovian and non-Markovian quantum stochastic methods with applications to quantum optics. Vol. 56. Springer Science & Business Media, 2004.
[12] Glenday, Craig, ed. Guinness world records 2013. Bantam, 2013.
[13] Gonzalez, Ian. Message to Ben Garfinkel. 28 Mar. 2017. Facebook.
[14] Gödel, Kurt, Stephen Cole Kleene, and John Barkley Rosser. «On undecidable propositions of formal mathematical systems.» Princeton, NJ: Institute for Advanced Study, 1934.
[15] Hall, Ned. «The Natural/Non-Natural Distinction», The Stanford Encyclopedia of Philosophy (Winter 2016 Edition). Web.
[16] Heisenberg, Werner. The physical principles of the quantum theory. Courier Corporation, 1949.
[17] Hensrud, Donald D. «Diet and obesity.» Current opinion in gastroenterology 20.2 (2004): 119-124.
[18] Homer. Odyssey. Dorset Press, 1994.
[19] Honda, Ishiro. Terror of Mechagodzilla. Toho, 1975. Film.
[20] Idel, Moshe. Golem: Jewish magical and mystical traditions on the artificial anthropoid. State University of New York Press, 1990.
[21] Kholevo, A. S. «Quantum stochastic calculus.» Journal of Mathematical Sciences 56.5 (1991): 2609-2624.
[22] Payne, Jonathan L., et al. «Two-phase increase in the maximum size of life over 3.5 billion years reflects biological innovation and environmental opportunity.» Proceedings of the National Academy of Sciences 106.1 (2009): 24-27.
[23] Peierls, R. E. «Wolfgang Ernst Pauli. 1900-1958.» Biographical Memoirs of Fellows of the Royal Society 5 (1960): 175-192.
[24] Pomeroy, Ross. «A New Potential Replacement for Body Mass Index.» RealClearScience. 30 Dec. 2013. Web.
[25] Sandars, Nancy, ed. The epic of Gilgamesh. Penguin, 1972.
[26] Shelley, Mary Wollstonecraft. Frankenstein, Or, The Modern Prometheus: 1818. Engage Books, 2008.
[27] Smith, Kevin D., and Patrick Chaney. «Vertically Adjustable Stilts.» U.S. Patent 7,794,336. 14 Sep. 2010.
[28] The Wachowskis. The Matrix. Warner Bros., 1999. Film.
[29] Tom. «living large.» UrbanDictionary. Web.
[30] Wilhelm, Mathias, et al. «Mass-spectrometry-based draft of the human proteome.» Nature 509.7502 (2014): 582-587.
Личный кабинет для cтудента
Личный кабинет для cтудента
Даю согласие на обработку представленных персональных данных, с Политикой обработки персональных данных ознакомлен
Подтверждаю согласие