Когда машины обретут разум и способность учиться, насколько быстро они станут независимыми? Решат ли беспилотники и роботы, к примеру, восстать против людей? По данным исследователей искусственного интеллекта, нас отделяют всего лишь годы, а не десятилетия от появления такого оружия. В июле 2015 года большая группа ученых и исследователей, среди которых были Стивен Хокинг, Илон Маск и Стив Возняк, подписали открытое письмо в поддержку запрета разработок автономного оружия для целей нападения, которое может действовать вне человеческого контроля[518] .
Решат ли беспилотники и роботы, к примеру, восстать против людей? По данным исследователей искусственного интеллекта, нас отделяют всего лишь годы, а не десятилетия от появления такого оружия.
«Для меня нет ничего более страшного, чем заголовок в газете «100 000 холодильников захватили Банк Америки, — говорит Винтон Серф, который широко известен как отец Интернета. — Это заставляет нас задуматься не только об основной безопасности и технологии защиты личных данных, но и о том, как в будущем совершенствовать устройства», — добавляет он и замечает, что вряд ли кому-то хочется провести все свои выходные, набивая IP-адреса для каждой единицы бытовой техники[519] .
Мы не рекомендуем широкое применение среды распределенных приложений и Интернета вещей, мы не рекомендуем ждать одобрения органов власти. Однако мы рекомендуем менеджерам и предпринимателям, которые разрабатывают приложения, выявлять всевозможные виды их влияния на общество — хорошие, плохие или нейтральные — и, руководствуясь этим, менять код источника и структуру. Мы думаем, им стоит советоваться с теми, на кого их изобретения больше всего окажут влияние, чтобы заранее минимизировать риски, выявить альтернативные пути развития и заручиться их поддержкой.
«Будет предпринято много попыток контролировать сеть, — говорит Кеонн Родригез (Keonne Rodriguez) из Blockchain. — Крупные компании и правительства стран будут стремиться заполучить личные данные. Агентство национальной безопасности даже сейчас активно анализирует данные, которые проходят через блокчейн»[520] . В то время как блокчейн гарантирует определенную степень анонимности, он также обеспечивает и определенную степень открытости. Если опыт прошлого — показатель того, как события будут развиваться в будущем, то тогда мы можем предположить, что корпорации, известные шпионажем, и страны, известные своими боевыми действиями в киберпространстве, удвоят свои усилия, потому что очень много стоит на кону — деньги, патенты, права на разработку полезных ископаемых, права на землевладение и национальные богатства. Это как если бы мы поместили огромный глаз на самую верхушку Интернета. Однако есть и хорошие новости: все смогут видеть мошенничество. Некоторые могут иметь серьезную мотивацию, чтобы избавиться от шпионажа, потому что уверены в высокой вероятности того, что какой-нибудь режим может атаковать блокчейн на рынке предсказаний.
Что случится с правом на неприкосновенность частной жизни, когда реальный мир начнет собирать, передавать и анализировать бесконечные данные, которые могут вечно держать человека в страхе? В своей презентации в 2014 году в Webstock Мацей Цеглевский (Maciej Ceglowski) возмущался тем, что компания Google приобрела компанию Nest, производителя элитных холодильников с сенсорами, которые способны собирать данные о комнатах. В комплекте к его старому холодильнику не было правил соблюдения конфиденциальности. А вот его новый умный холодильник мог докладывать о нем Google, а может, он даже мог доедать его недоеденную пиццу, как какой-нибудь рассеянный сосед по комнате