Барак Обама об искусственном интеллекте и других вызовах

Отдельно процитирую то, что показалось важным мне, а потом приведу всю статью. По-моему, он сказал важную вещь: "О природе человечности. К вопросу о более важной проблеме, с которой мы сталкиваемся в связи с ИИ. Одна из составляющих того, что делает нас людьми — это наши странности. Мутации, ненормальности, изъяны, из которых возникает искусство или новые открытия. Мы должны понимать, что если система идеальна, то она неизменна. И составляющая того, что делает нас такими, какие мы есть, делает нас живыми — это наша изменчивость и непредсказуемость. И один из вызовов, который перед нами стоит — когда и как нам следует заставлять вещи идти строго своим чередом, без неожиданностей."

То есть, как правило, всё происходит свободно, заставлять что-то происходить как-то - не правило, а исключение! Это важное отличие менталитета американской нации от, скажем, российской. Не в нашу, к сожалению, пользу.


https://cryptor.net/obshchestvo/novye-rubezhi-barak-obama-ob-iskusstvennom-intellekte-ugrozah-singulyarnosti

Новые рубежи: Барак Обама об искусственном интеллекте, угрозах сингулярности, космических прорывах и «Стар Треке»

Готовясь оставить свою работу в Белом доме, Барак Обама подбирает хвосты и закругляет свою деятельность по многим направлениям, раздавая завершающие интервью, которые демонстрируют уровень риторики и разнообразие компетенций уходящего президента. В интервью журналу Wired Обама обсудил вопросы науки и будущего, поделившись своим видением на роль искусственного интеллекта (ИИ), рассказал о социальных, экономических и политических сторонах подготовки к наступлению сингулярности и поделился мечтами о космических прорывах.

Мы приводим полный перевод высказываний Обамы в этом интервью в виде прямой речи с разбивкой по главам для удобства чтения.

В целом я наблюдаю, как ИИ уже проникает в нашу жизнь разными путями, на которые мы просто не обращаем внимания — отчасти, из-за того, как ИИ представлен в массовой культуре. Есть разница между полноценным ИИ и специализированным. В научной фантастике мы обычно слышим о полноценном искусственном интеллекте. Компьютеры становятся умнее нас и в какой-то момент приходят к выводу, что мы не особо-то и нужны, поэтому они либо дурманят нас, чтобы мы оставались жирными и довольными, либо затаскивают в Матрицу.

Впрочем, из разговоров с моими основными научными советниками у меня сложилось впечатление, что мы пока что достаточно далеки от этого. Конечно, об этом нужно думать — это упражняет наше воображение и поднимает вопросы выбора и свободы воли, которые действительно имеют значение в отношении специализированного ИИ, которое используется для решения всё более сложных задач. Специализированный ИИ встречается уже во всех областях жизни от медицины до транспорта и доставки электричества, и это должно обеспечить нам намного более продуктивную и эффективную экономику. При разумном подходе, это принесёт нам невероятные возможности и процветание. Впрочем, тут надо так же иметь в виду и риски, связанные с сокращением рабочих мест, возможным ростом неравенства и уменьшением зарплат.

ИИ и вопросы морали

Немногим ранее Джои (директор лаборатории МТИ Media Lab — прим. пер.) приводил в пример самоуправляемые автомобили. В принципе, технология уже готова. У нас есть машины, которые принимают множество быстрых решений, позволяющих радикально снизить число автокатастроф, значительно увеличить эффективность транспортной системы и помочь решить проблемы вроде выбросов углеводородов, ведущих к глобальному потеплению. Но Джои задал хороший вопрос о том, какими ценностями должны руководствоваться самоуправляемые авто? Будут возникать различные ситуации выбора, классическим примером которой является ситуация, когда нужно увернуться, чтобы не сбить пешехода, но тогда ты можешь врезаться в стену и погибнуть сам. Это нравственный выбор, и кто будет устанавливать эти правила?

О госрегулировании

Говоря об участии государства в вопросах ИИ, я считаю, что, как и прежде в истории прогресса, прежде должны расцвести тысячи цветов. А вмешательство государства должно ограничиваться относительно лёгкими мазками и щедрыми инвестициями в науку и поддержку связей между фундаментальными и прикладными исследованиями. Но по мере роста и развития технологии, вопросы интеграции их в существующие нормы права станут острее, и тут уже потребуется более серьёзное участие правительства. Необязательно даже для того, чтобы загнать технологии в прокрустово ложе существующего законодательства, а чтобы обеспечить соответствие регулирующих мер широкому набору базовых ценностей, чтобы они не привели к дискриминации конкретных людей или групп.

О природе человечности

К вопросу о более важной проблеме, с которой мы сталкиваемся в связи с ИИ. Одна из составляющих того, что делает нас людьми — это наши странности. Мутации, ненормальности, изъяны, из которых возникает искусство или новые открытия. Мы должны понимать, что если система идеальна, то она неизменна. И составляющая того, что делает нас такими, какие мы есть, делает нас живыми — это наша изменчивость и непредсказуемость. И один из вызовов, который перед нами стоит — когда и как нам следует заставлять вещи идти строго своим чередом, без неожиданностей.

Роль государства в инновациях

Мы все знакомы с теми, кто финансирует инновации, и если вы пообщаетесь с Ларри Пейджем и прочими, то увидите, что их общий настрой будет вполне понятным: «Меньше всего нам нужно, чтобы какие-то бюрократы тормозили нас в погоне за нашей мечтой тут».

Отчасти это вызвано тем, что мы стали меньше уделять внимания фундаментальным исследованиям. Доверие к работе сообща разрушено — и тут есть вина идеологии и пропаганды.

Пример, к которому мы по-прежнему обращаемся, когда речь заходит о великих технологических прорывах, и сейчас, 50 лет спустя, является высадка на Луну. Мне тут напомнили, что космическая программа тогда съедала полпроцента ВВП. Это звучит не очень страшно, но сегодня это бы означало тратить $80 млрд в год только на ИИ. В действительности же мы тратим, думаю, менее миллиарда. Разумеется, инвестиции будут расти, но мы должны понимать, что если мы хотим, чтобы интересы общества во всём его многообразии нашли своё отражение в новых прорывных технологиях, то правительство должно финансово в них участвовать. А если государство от этого уклонится, то социальные аспекты прогресса рискуют остаться либо незамеченными, либо недостаточно хорошо продуманными.

Я хочу подчеркнуть, что государственное финансирование и участие в сборе данных не означает, что мы хотим присвоить или милитаризовать эти технологии. Простой пример: для проекта по точной медицине требовалось собрать достаточно большое количество информации о геномах большого и раношёрстного числа американцев. Но вместо того, чтобы дать деньги Гарварду или Стэнфорду, где они хранят свои образцы, мы запустили полноценную генетическую базу данных, к которой могут получить доступ все желающие. Это пример общего интереса, общей архитектуры, гарантирующей прозрачность исследований вместо их монетизации кем-то конкретным.

О боязни потерять контроль над ИИ

Начнём с более насущных вопросов — в отношении прикладного ИИ эта проблема вполне решаема, и нам нужно иметь её в виду. Если у вас есть компьютер, способный играть в го — довольно сложную игру с массой вариаций — то создание алгоритма максимизации прибыли на Нью-Йоркской фондовой бирже не составит большого труда. И как только некий человек или организация сделают это, они смогут вскоре её разрушить — или, по крайней мере, поставить под вопрос справедливость финансовых рынков.

А затем может появиться алгоритм, которому можно скомандовать: «Взломай ядерные коды и разберись, как запустить ракеты». Если это сделают единственной задачей достаточно эффективного самообучаемого алгоритма, то у нас будут серьёзные проблемы. Поэтому я велю специалистам по национальной безопасности беспокоиться не о машинах, захватывающих мир, а о возможностях частных лиц или враждебных игроков взламывать наши системы — и в этом смысле, защита от этого в целом лежит в русле мер по кибербезопасности, которые мы уже принимаем. Просто мы должны работать ещё лучше постольку, поскольку те, кто могут нам угрожать, теперь станут ещё опаснее.

Что касается полноценного ИИ, то кто-то должен просто дежурить у розетки. Как только увидел, что дело идёт к его появлению — выдёргивай провод из розетки. (Смеётся.)

Как научиться сдерживанию ИИ

Обычно мы размышляем о безопасности и самозащите в категориях оружия и преград. Но всё чаще я ловлю себя на том, что смотрю в сторону медицины и задумываюсь о вирусах и антителах. Отчасти поддерживать кибербезопасность настолько трудно ещё и потому, что это не просто какие-то танки, наступающие на тебя, а целая куча систем, которые могут быть уязвимы для проникновения червя внутрь. Это означает, что мы должны подходить к вопросам безопасности иначе, вкладываться в это иначе — это будет, может, смотреться не слишком круто, но, на практике, оказаться очень важным.

Что меня на самом деле беспокоит — так это явления вроде пандемии. Никакая стена не защитит нас от попадания очередного переносимого по воздуху вируса на нашу территорию. Поэтому нам нужно помогать налаживать системы здравоохранения по всему миру, настраивать системы оповещения и обладать процедурами и системами более эффективных вакцин. И я думаю, что и опыт предотвращения пандемий, и опыт борьбы с киберугрозами может быть полезен в смысле борьбы с опасностями ИИ.

Кибербезопасность — международная проблема

Понятно, что международные нормы, процедуры и механизмы согласования по кибербезопасности в целом и ИИ в частности пока что в зародыше. Особенно интересной эту проблему делает размытость грани между нападением и защитой. И это особенно нелегко в эпоху, когда недоверие к государству стало так велико. Сейчас, когда окружающий мир видит Америку как превосходящую кибер-силу, время сказать: «Мы готовы ограничить себя, если вы готовы ограничить себя». И сложность тут в том, что самые трудные игроки — Россия, Китай, Иран — не всегда разделяют наши принципы и правила. Но нам придётся вывести этот вопрос на международный уровень, чтобы добиться результата.

Экономика сингулярности

Я бы хотел вернуться к теме, которую мы затронули пока лишь мельком — экономические последствия. Потому что люди не то чтобы беспокоятся о сингулярности как таковой, их волнует «Не оставят ли роботы меня без работы?»

Я склонен к оптимизму тут: история показала, что человечество всегда усваивает новые технологии, люди видят, что создаются новые рабочие места, адаптируются — и уровень жизни в итоге растёт. Конечно, сейчас ситуация может быть несколько иной хотя бы из-за повсеместной применимости ИИ и других технологий. И специалисты с высокой квалификацией отлично себя чувствуют в такой реальности — они применяют свои таланты, взаимодействуют с машинами для увеличения своих возможностей, продаж, продуктов и услуг.

Однако низкоквалифицированные и низкооплачиваемые сотрудники становятся избыточными, и даже если они сохраняют рабочие места, то теряют в зарплате. И если мы хотим смягчить этот переход, то обществу нужна открытая дискуссия как это организовать. Как нам обеспечить экономику равных возможностей для всех, когда мы производим как никогда много, но при этом растёт доля потребления самыми верхами? Как мы гарантируем людям сохранение возможности заработка? И как это должно увязываться с такими вещами, как поддержка культуры, искусств или заботы о пожилых? Общественный договор должен поменяться с учётом новых технологий, наши экономические модели должны учесть новые технологии.

Безусловный и прочие доходы

Является ли безусловный базовый доход правильным ответом? Примет ли его большинство? — вот темы для дискуссий ближайшие десятилетие-два. ИИ сможет заменить не только низкоквалифицированный труд — даже требующие высокой квалификации задачи, содержащие в себе значительные элементы рутины и повторяемости тоже, скорее всего, смогут выполняться компьютером. В чём, однако, не приходится сомневаться — так это в том, что по мере внедрения ИИ и, предположительно, обогащения общества, связь между производством и распределением, количеством труда и количеством заработка будет становиться всё слабее — компьютеры будут выполнять основную работу. И как следствие, нам придётся принимать трудные решения. Мы недостаточно платим учителям даже несмотря на то, что это тяжёлый труд, в котором компьютер вряд ли будет адекватной заменой. Так что пересмотр расходов, которые мы готовы себе позволить на учителей ли, медсестёр, воспитателей, сидящих с детьми родителей, художников и других важных для нас, но не слишком оплачиваемых вещей — вопрос, который надо начать обсуждать.

Модернизация государства

Есть целое множество задач, которые надо решить, чтобы сделать государство более дружелюбным к пользователю и упростить, скажем, оплату налогов до уровня заказа пиццы или покупки авиабилета. Поощрение ли людей к голосованию, более доступные данные (Big Data) или упрощённая обработка заявлений онлайн — повсюду речь идёт об огромном объёме работы, требующемся, чтобы затащить государство, штаты и местные власти в XXI век. Число талантов, работающих на государство, не так сильно разнится с частным сектором. Зато технологический разрыв гораздо более драматичен. Когда я впервые стал президентом, то ждал от Ситуационного кабинета чего-то суперклёвого, как у Тома Круза в «Особом мнении». Как же я ошибался. В частности, когда в кино показывают уничтожение террористов на другом конце земного шара, нам приписывают обладание технологиями, которые обеспечивают нам каким-то образом практически всеведение — чего, на самом деле у нас пока нет — никто на это особо не тратился и не заморачивался качественной разработкой.

В более общем смысле, я убеждён, что если мы справимся с климатическими изменениями, нажмём на тормоза и убережёмся от подъёма уровня Мирового океана на 2 метра, остальное человечество решит само по себе. Я вполне оптимистично настроен: мы проделали отличную работу, но у нас впереди ещё долгий путь.

Государство и интернет

Например, мы всё ещё решаем, как регулировать интернет таким образом, чтобы он был прозрачен, безопасен и подотчётен достаточно, чтобы мы могли добираться до плохих парней, но при этом не давать государству слишком много власти, которая может стать инструментом подавления. Отчасти это технологическая проблема — шифрование тому пример. Я постоянно встречаюсь и с правозащитниками, и спецслужбами по этому поводу. И это оказалось очень интересной проблемой, потому что никто пока не смог мне дать достаточно хорошего ответа как примирить разные стороны тут.

О космосе

И поскольку это проблемы первопроходцев, я хочу упомянуть напоследок, что остаюсь большим фанатом космоса и думаю о том, как перейти на новый этап космических странствий — на что мы явно тратим недостаточно. Больших успехов достиг частный сектор, потому что вкладывался в разные «Какого чёрта, почему бы и нет?» разные рискованные и безумные предприятия, где не ступала нога государства. И мы до сих пор, говоря о космических путешествиях, рассуждаем категориями тех же химических реакций, запустивших в полёт первые «Аполлоны». Полвека спустя уже кажется — уж не знаю, как там обстоят дела с варп-двигателями — что должны уже случиться какие-то прорывы.

И о «Стар Треке»

Да, я был фанатом «Стар Трека» в детстве. Их всегда было интересно смотреть. Они продержались на плаву так долго потому что были, в первую очередь, сериалом не столько про технологии, сколько про ценности и отношения. Так что его не сильно портили даже дешёвые и грубые спецэффекты — вроде того, как он высаживались на новой планете в окружении валунов из папье-маше. Это не имело значения, поскольку они рассказывали о единстве человечества и нашей способности решать любые проблемы.

Из современного кино этот дух возродился в «Марсианине». Не потому что там был такой навороченный сюжет, а потому что в нём показаны люди, занятые решением проблем. Которые проявляют творческий подход, хватку, упорный труд, и верят, что если решение есть — то мы его найдём. Это то, что я люблю в Америке и то, что по-прежнему привлекает к нам людей со всего мира: настрой «Мы найдём решение» вне зависимости от того, какие бы вызовы перед нами ни стояли. Это то, что я больше всего ценю в науке — идею, что всё может быть решено. Мы попробуем одно, и, если это не сработает, мы разберёмся, почему и попробуем что-нибудь другое. И мы не будем скрывать наши ошибки, потому что именно они учат нас, как в конце концов добраться до сути проблемы, которую мы пытаемся решить. И если мы когда-нибудь утратим этот дух, то мы утратим то, что делает Америку Америкой и, как я думаю, человечество — человечеством.

«Стар Трек», как и любая другая хорошая история, учит нас нашей сложности — в каждом из нас есть немного Спока и немного Кирка, немного Скотти и, наверное, немного клингонского тоже. Но Это всё к вопросу о поиске решений: важная часть поиска — это умение работать невзирая на границы и различия. Это вера в разум, укреплённый определённым смирением. Это относится и к лучшим примерам в искусстве, и к высшим достижениям в науке. Разум, который у нас есть, блестящие умы, которые мы должны использовать — при всём при том мы пока что только приоткрыли завесу. Не стоит быть слишком заносчивыми: нужно помнить, что мы по -прежнему много не знаем.