Евгений Черешнев известен в прошлом как вице-президент по маркетингу «Лаборатории Касперского», предприниматель, журналист, а также первый в России человек, вжививший себе в руку настоящий биочип. Сейчас у него в «Фейсбуке» загадочный статус «президент "Sons of Digital Anarchy"», но сам он называет себя сторонником цифровой демократии. Сегодня он основатель и президент компании Biolink.Tech, занимающейся разработкой инновационных систем защиты приватности в сети и интернете вещей (IoT). 20 мая предприниматель выступит на конференции TEDxNovosibirsk, а перед этим он рассказал корреспонденту Сиб.фм, почему человек должен стать хозяином своего цифрового следа, как IT-гиганты продают нам не то, что нам нужно и почему «Терминатор» — не безобидный фантастический фильм.
С какой темой будете выступать на TEDx в Новосибирске?
У меня есть проект, построенный на новом уникальном знании. Суть его в том, что у каждого человека есть огромное количество цифровых данных, которые создаются каждую минуту независимо от его желания. Я предлагаю радикально иной способ работы с этими данными, отличающийся от подхода Google и Facebook. С этой темой я выступал на TED в Нью-Йорке в январе этого года. В Новосибирске я сделаю эволюционный шаг – буду говорить больше о практике, о конкретных шагах по поводу этой ситуации в стиле «а делать-то что».
Два года назад вы вживили себе в руку биочип и стали первым в России человеком с таким устройством. Что это за штука и как она работает?
Подкожный биочип – это небольшое устройство 2x12 миллиметров, упакованное в биостекло. В нём, по сути, только память и передатчик, без батарейки, поэтому он перманентно «спит» и «просыпается», когда я подношу руку к ридеру, который его питает.
Мы пока можем, хотя всё меньше, потому что всё важное запихивается в смартфон. О чипе нужно думать как об очень маленьком смартфоне через пять-десять лет. Может, это будет и не чип, но всё идёт к одному персональному девайсу, который решает все проблемы. Он и паспорт, и права, и ключи, и кошелёк, и выход в социальные сети.
дея насчёт чипа формировалась постепенно, но триггером стало посещение тренинга одного крутого американского эксперта по кибербезопасности на выставке в Лас-Вегасе. Он диабетик и носит инсулиновую помпу. Так вот, он обнаружил, что даже не самый продвинутый хакер может взломать её удаленно и подать на неё летальную дозу инсулина. И ни одно законодательство не сочтёт его убийцей. В этот момент мне стало чётко понятно, что интернет вещей не так однозначен. Нам рассказывают, как это всё здорово, и как холодильник будет нам говорить, когда заказывать еду. Но если копнуть глубже, оказалось, что там проблема на проблеме, в том числе с риском летального исхода.
113
Наш мозг так устроен: когда мы представляем будущее, то оно чаще всего радужное.
Но это далеко не всегда так.
Почему медицинское оборудование уязвимо для хакеров
Но фантасты и кинорежиссёры как раз очень часто рисуют картины мрачного апокалиптического будущего. Взять того же «Терминатора».
Я хотел бы сказать, что «Терминатор» – забавное фантастическое кино, я и сам так думал лет десять назад. Сейчас оно не кажется мне забавным. Посмотрите, как развиваются, например, военные дроны. Есть прямая связь между пилотом и дроном. Но человек – существо ленивое. Если что-то можно сделать проще, он сделает. Сейчас пилот должен управлять роботом, чтобы кого-то бомбить. Но у дрона есть и автоматическое рутинное патрулирование. Рано или поздно товарищ из армии какой-нибудь страны подойдёт к своему генералу и скажет:
177
«А давайте автоматизируем и функцию атаки. У нас же есть система «свой-чужой». У кого обнаружен автомат и нет соответствующего датчика – того и атаковать. Кучу денег сэкономим!»
Вот вам и шаг к терминатору.
Звучит зловеще.
Да. Люди, которые принимают решения, не всегда смотрят далеко вперёд. Футуролог, который может визуализировать будущее, основываясь на реальных данных и опыте, сегодня на вес золота. И не все их слушают. Но если слушать, то можно представить потенциальные проблемы. Ну и читать надо больше. Фантасты много предсказали такого, что сбылось.
2
В предыдущих интервью вы говорили, что биочип — это всё-таки не круто, и лучше людям их не носить. Тем не менее биочипы неумолимо появятся?
Не совсем так. Сам я просто против чипирования. Задача эксперта – сделать что-либо безопасным. Моё экспертное мнение: чип к внедрению не готов. Одно дело чипировать животное. Чип будет содержать имя питомца, может быть, его родословную, и контакты хозяина. Но у человека совершенно иной масштаб жизни и мыслительной деятельности. Появляется концепт приватных данных и оставить их приватными – первая задача, которую нужно решить, иначе — катастрофа. Нужно, чтобы данные нельзя было украсть, а это пока технологически и логически нерешаемо.
105
То есть чип, в общем-то, не нужен. Все задачи человека прекрасно решаются смартфоном или умным браслетом.
Ближайшая эволюция будет идти в эту сторону. Но почему я говорю, что нельзя списывать чип со счетов – потому что сейчас он стоит 100 долларов, 50 долларов – имплантация (мне его имплантировал мастер пирсинга, и это самый дешёвый вариант). Но, возможно, через 10 лет он будет стоить не 100 долларов, а 30 рублей, и может появиться компания – китайская или американская, неважно. Она скажет: «Мы вам отдадим эту вещь за 30 рублей, а то и бесплатно. У вас там будут паспорт, права, медицинская книжка, история ваших лекарств, болезней, все учётки в соцсетях – полный список ништяков». И очень многие в очередь встанут за этим чипом, руководствуясь сиюминутным порывом.
3
Но нет такого понятия, как бесплатный продукт. Если вам говорят, что продукт бесплатный, то любой опытный маркетолог скажет, что истинный продукт – это вы. С вас будут собирать информацию, чтобы потом что-то впаривать.
56
Деньги-то надо отбивать,
это не благотворительность.
Меня беспокоит, что самые популярные и успешные бизнес-проекты сегодня построены на контекстной рекламе, что так или иначе связано с профилированием, то есть с контекстным анализом поведения человека. Но технология даже современных смартфонов не готова к тому, чтобы быть безопасной и полезной для большинства людей, которые лишаются права быть хозяевами собственных решений. Компании находят лазейки объяснить, что людям всё это нужно здесь и сейчас, и человеку всё сложнее этому противостоять. И если чип будет работать по тем же принципам, это очень неправильно. Это движение к порабощению человеческого сознания.
4
Прямо к порабощению?
Представьте, что вы — компания, у которой есть хорошая выборка данных о миллиарде человек или даже о 100 миллионах с разделением на страты. Вы — бизнес, и ваша основная цель - не то, чтобы люди лучше себя чувствовали, были умнее и двигали науку и искусство, ваша цель – заработать денег. Так что вы начинаете продавать то, что вам надо продавать, а не то, что нужно людям. Человек, который покупает то, что ему подсовывают, формирует определённый вкус, психологию, ценности. Когда вам iTunes или Google последний раз предлагали купить и почитать Достоевского, Генри Миллера или послушать Рахманинова?
52
Примерно никогда — потому что монетизируется не это.
275
тысяч песен продал интернет магазин iTunes Store за первые 18 часов после своего открытия в 2003 году и более 1 млн за 5 дней
Именно в этом проблема современных гаджетов. Изначально они действительно задумывались как инструменты и помощники, но где-то в пути собачка успела подрасти. Сейчас это в каком-то смысле цифровой аватар. Мы передаём ему функции своей памяти, хранения информации, даже дружбы. И нельзя уже классифицировать это устройство как инструмент, относиться к нему нужно по-другому.
А как надо относиться?
Надо задуматься о том, как вновь сделать гаджет инструментом, а не антенной, которая фонит про нас в эфир. Вот мы сейчас общаемся, а вся информация о нашем разговоре может быть кому-то известна, потому что можно удалённо записывать микрофон. А почему так? Потому что я когда-то где-то нажал кнопку «я согласен» и тем самым дал кому-то право собирать каждую секунду своей жизни. Я считаю, это неправильно. И у меня есть конкретное предложение: надо поменять полярность. Мы не должны кликать несколько сотен раз «я согласен».
5
Один американский университет провёл исследование: взял среднее количество сервисов, которыми пользуется среднестатистический американец, и средний текст пользовательского соглашения.
136
Так вот, если посадить человека читать всё, на что он кликает «я согласен», ему потребуется три года, чтобы только прочитать эти тексты.
Конечно, никто их не читает, а значит, все эти тексты соглашений – профанация. А по факту компания юридически прикрыла попу и обманывает людей.
А я считаю (и занимаюсь этим), что, если человек купил девайс, он должен прочитать user agreement (и для этого всё будет сделано) и чётко понял свои права. Это должна быть такая личная цифровая конституция. Ты это читаешь — и после этого навсегда кликаешь на «я согласен». После этого кликают только разработчики.
6
На прочтение user agreements сервисов, которыми вы пользуетесь в течение года, нужно всё же не три года, но тоже немало
С цифровыми данными связан продукт, который производит ваша компания Biolink Tech. В чём суть этого продукта?
Я делаю две вещи. Первое: решаю проблему идентификации и авторизации пользователя в интернете вещей без логинов и паролей – просто по поведению человека и его биометрии. Сейчас у каждого из нас по 20-50 аккаунтов в разных интернет-сервисах. Но человек никогда не будет придумывать разные логины и пароли для каждого сервиса и менять их раз в сутки, а сейчас вычислительные мощности достигли такого уровня, что позволяют плохим ребятам очень легко ломать всё что угодно.
143
Именно поэтому надо делать четырёхкилобитные пароли и менять их раз в сутки, чтобы никто не мог украсть, а если украсть, то не воспользоваться.
Вообще, пароли придумывались для машин, потому что для машины уникальная последовательность нулей и единиц – это способ авторизовать всё что угодно — хоть человека, хоть процесс. То есть интернет вещей развивается, а системы до сих пор сделаны для машин, а не для человека. Так вот, мой первый продукт – девайс в виде браслета, совмещающий многофакторную биометрию (пульс, голос, отпечатки пальцев) и статистику о поведении хозяина.
С помощью такого браслета можно будет авторизовываться везде, где тебе нужно, без паролей и логинов.
122
Ты пришёл домой – дверь открылась,
подошёл к машине – машина открылась.
Зашел в «Фейсбук» – «Фейсбук» тебя пустил.
При этом браслет будет понимать, что в твоём поведении норма, а что – аномалия, что предотвратит работу под принуждением. То есть он знает, например, в каких банкоматах ты обычно снимаешь деньги, какой у тебя пульс при этом – всё это можно отследить и посчитать. Вот браслет видит, что пульс нормальный – всё OK, снимаешь деньги. А если у тебя внезапно сердце застучало 180 ударов в минуту - велик шанс, что рядом бандит, и можно смело вызывать полицию на вашу GPS-координату. Наш продукт будет представлять собой такую систему, которая по сути, отдавая все данные человеку, не будет знать их сама.
7
22,5
миллиарда IoT-устройств появится к 2021 году, считают аналитики из агентства BI Intelligence
То есть человек будет платить за то, чтобы вы ничего о нём не знали?
Чтобы никто о нём ничего не знал, не только мы. Мы создаём офигенного цифрового помощника, который всё про вас знает, но вы его контролируете – можете уничтожать его, модифицировать. Это ваша собственность! И мы юридически заявляем и подписываемся под тем, что вообще ничего не знаем про вас. Мы сможем гарантировать в каждый момент времени, что не собираем информацию о вас, вся реклама вырезается, все вирусы убиваются.
53
Человек покупает в прямом смысле
чистый интернет.
Второе, что мы делаем, связано с первым. Чтобы людям обеспечить приватность (никто не трекает, не собирает информацию для рекламодателей), недостаточно сделать просто приложение, потому что современные операционные системы, например, Windows 10 или Chrome OS – собирают всё о вас, и отключить это нельзя. Мы поняли, что, если сделаем любой вид апы, всё равно Microsoft будет какую-то телеметрию собирать. Они не дадут нам делать свою вещь. Поэтому мы делаем кое-что высоконаучное, чтобы это ограничение обойти.
8
Однако некоторые ограничения и обойти невозможно – есть очень умные трекеры. Но и на это мы нашли ответ: если нельзя обойти, мы будем систему обманывать. Есть технология, которую я называю «белый шум». Похоже на механизм подводных лодок: когда они маскируются от спутников, они выбрасывают специальные ловушки, эмулирующие фальшивый электромагнитный след. Человека с точки зрения данных тоже можно маскировать аналогичным путём. Выглядит это так: сидим мы с вами в наших браслетах и пользуемся моей системой.
162
А тот, кто пытается нас отследить через интернет, видит не нас, а белый цифровой шум – фальшивые данные, двух японцев 14 лет, пьющих спрайт и говорящих про аниме.
Белый шум — это
А через минуту вы будете отображаться как мужчина из Техаса, а я как женщина из Татарстана. Люди станут невидимыми в сети. Только если банк или какая-то структура потребует, включится настоящая личность, чтобы нельзя было прийти в банк и сказать, что ты Штирлиц.
Пользователь будет сам выбирать условия, на которых он пользуется девайсом?
Грубо говоря, должно быть базовое соглашение, отмечающее, что пользователю принадлежит всё, что он создал на девайсе. И мы просто юридически отдаём ему все права на это, а не забираем, как делает Google или Facebook. Мы говорим: «Юридически это всё ваше – мы вам всё отдаём, ключи, пароли, ничего не индексируем. Но это стоит денег. Ибо не хотим врать про бесплатность – не бывает такого».
9
Дальше у человека могут быть варианты. Например, будут девелоперы, которые ему предложат определённый формат сотрудничества, но только по его доброй воле и на понятных условиях. К примеру, предлагает вам Amazon: «Мы — уважаемая компания и можем защитить ваши данные. Мы хотим их узнать, но не всё, а, допустим, что вы покупаете и где и что вы ищете».
Сейчас человек не знает, какие цифровые данные о нём собирают интернет-компании?
Вообще не знает. Ряд сервисов типа Google начали делать личные кабинеты, куда можно зайти и посмотреть, что он о тебе знает. Но это неполная и не всегда достоверная информация. И её трудно найти.
120
По факту это полумера, чтобы нас успокоить.
Во всех сервисах, которыми человек пользуется, отследить это невозможно.
67
российских городов — поле деятельности сервиса поиска и подачи такси Gett. Компания Uber работает в 17 городах России
Почему я не пользуюсь Uber? Потому что у других сервисов, того же Яндекс.Такси или Gett в настройках есть функция: передавать данные о перемещении пользователя только в момент, когда запущено приложение. Запустил Яндекс - он видит, где вы и куда едете. Закрыл приложение - оно ничего больше не знает о ваших перемещениях. Uber же ультимативно говорит: «Вы меня поставили – я теперь буду знать, где вы, в каждый момент времени». Так что вы пошли гулять с собакой или отправились в ресторан – Uber обо всём этом знает. Но это никакого отношения к такси не имеет. Вы живёте своей жизнью, но компания Uber почему-то продолжает собирать информацию о ваших перемещениях. На каком основании?!
10
По дефолту все приложения всегда хотят все ваши данные, так что, когда я беру новый iPhone, и он скачивает мой старый из облака – я вижу, что всё опять включилось по дефолту – я захожу в настройки и специально вырубаю всё это. Но кто так делает? Таких людей, как я – единицы. И это меня выбесило. Я живой человек, и к моим природным правам надо относиться с уважением. Не надо пытаться меня постоянно доить и унижать мой интеллект. Компания за счёт меня и моей активности улучшает своё конкурентное преимущество и норму прибыли, а мне за это ничего взамен не даёт.
59
А я ещё и зависим от неё.
Какая-то цифровая наркомания.
Допустим, вы принципиальный человек, но обычно люди говорят: «Ну и ладно, пусть собирают данные». Какие аргументы вы бы привели против такого отношения?
Можно привести аналогию с игрой в шахматы. У компьютера выиграть в шахматы невозможно, потому что у него в памяти записаны все поведенческие паттерны шахматистов и история всех сыгранных партий. Он знает ваше поведение на много шагов вперёд. Люди не понимают, что эта логика переносится и в обычную жизнь, где начинаются проблемы.
Допустим, есть Вася Пупкин, который также запросто отдавал компаниям свои данные, и он решил создать свой бизнес. Например, сделать свой интернет-магазин. Раньше у него бы получилось, но сейчас его идея гроша не стоит.
156
Успешных стартапов сегодня всё меньше: все их смотрины, хакатоны и «слёты инноваторов» превращаются в банальный мониторинг хороших идей крупными компаниями.
Саму по себе идею можно скопировать, а вот данные о сотнях миллионов пользователей и их поведении скопировать нельзя. Получается, у тех, кому пользователи отдают свои данные, огромное конкурентное преимущество, а все остальные – просто никто.
11
Попробуйте сделать конкурента Amazon – у вас не получится, потому что они знают, как ведёт себя потребитель в миллионе сценариев, а вы нет. У них логистика уже достигла фантастического уровня. Я пользуюсь «Амазоном». Они часто доставляют вещь в течение суток. Я задумался: как это возможно? Не могут же почта и курьер так быстро работать. Выяснил, что, да, у них есть модель, построенная на данных. Конкретный человек смотрит конкретные вещи, данные о миллионах таких людей собираются, выводится вероятность покупки определённых вещей в среднем по больнице.
Компания знает, какие вещи человек с высокой вероятностью купит – не сейчас, так через месяц-два.
124
И они направляют на ближайший склад продукт, который ещё даже не куплен. А когда человек нажимает «купить» - там всё готово.
Ethernium blockchain — инициатива, цель которой — освободить интернет от монополии крупных корпораций на пользовательские данные
Ближайший курьер берёт это и везёт клиенту. Это разовый пример того, что с этими компаниями невозможно конкурировать – они слишком много про нас знают.
То есть, всё идёт к нечестной конкуренции?
Да. Идёт передел вселенной. Он пока берёт разгон. Индустрия электронной коммерции, мобильного банкинга, социальных сетей – это настолько узурпировано рядом компаний, что меня лично пугает: в их руках сосредотачивается безумная по масштабу власть. А главное: вся эта история про «мы делаем мир лучше» - ахинея. Есть бизнес-план и норма прибыли. Как только деньги перестают течь рекой, у любой компании есть потребность создать новый канал. Совет директоров предложит идею, как заработать ещё миллиард, но надо где-то немножко отступить от нормы морали. Зовут юристов и говорят: «Сделайте так, чтобы вот то, что этот чувак сказал, завтра стало легальным, и нас бы никто за это не засудил».
12
Каждый человек для начала должен осознать ценность своих персональных данных?
Он должен осознать, что есть что-то, что он производит, и это его частная собственность, а у него это забирают без спроса и бесплатно. Это какое-то рабство – когда человека заставляют бесплатно строить пирамиду, потому что фараон классный, а ты умираешь на этой пирамиде.
46
Человек не понимает, что может быть свободным.
596
миллионов долларов США — чистая прибыль компании Amazon в 2015 году
Что такое свобода в интернете?
Это возможность действовать иррационально, анонимно и не объяснять никому причины своих действий. Сейчас есть такая проблема, хотя многими она не осознаётся: поведение человека становится предсказуемым. Когда у тебя есть статистика о человеке за год, ты можешь знать, что он сделает сейчас, в течение года, через три-пять лет. Чем больше данных, тем больше предсказаний.
Это то, что люди поступают одинаково и предсказуемо – это не сейчас возникло. Люди ведь всегда поступали довольно однообразно, да и невозможно всегда поступать иррационально.
142
Я не призываю всех действовать иррационально, это невозможно. Я просто говорю о том, что у человека в каждый момент времени должен быть выбор.
А когда человеку день за днём объясняют, что выбора никакого нет, и вот твои планы на жизнь: это надо хотеть, это надо читать – это неправильно. Система обработки больших данных, которая сейчас существует, способствует, чтобы у людей было как можно меньше мыслей о чём-то нестандартном, и предлагает им, на самом деле, однообразный и среднестатистический контент. А те, кто хочет чего-то более сложного – должны это специально искать, и таких людей немного.
13
Когда вы говорите: «Нужно вернуть пользователю его данные» - имеется в виду юридическая процедура?
Нет, как юрист по образованию могу сказать, что закон никогда не является источником инноваций. Он обеспечивает и регулирует процесс, который уже существует. Я считаю, владеть своими данными - юридически то же самое, что владеть машиной. Люди могут по конституции иметь права и свободы, но цифровая часть нашей жизни в конституции опущена. А мы хотим, чтобы право на эти данные было в законе. Но он не может работать, если нет инструмента его обеспечения. Так что мы сейчас вложимся, создадим технологию обеспечения решения, и закон тогда скажет:
72
«Окей, мы поняли, тогда так это объяснить с точки зрения юриспруденции».
Вы уже общались с законодателями, силовиками? Как они относятся к системе, которую вы разрабатываете и к праву людей на их цифровые данные?
Было такое, хотя это были неофициальные рабочие группы по какому-то вопросу. Я общался неформально – с нашими, с американскими, с европейскими. Они относятся по-разному, но надежда есть. И силовики, и представители госорганов - многие понимают важность того, о чём я говорю. У них не всегда хватает экспертизы, чтобы понять, зачем это в общечеловеческом масштабе и на 10 лет вперёд, но это нормально. Им самим выгодно, чтобы у людей была свобода и право защищать свои данные по двум причинам.
14
Первое. Самая привлекательная цель для хакеров - это крупная государственная база данных, в которой всё собирается. Любой, кто скажет, что это нельзя взломать - либо идиот, либо реально не понимает, как это работает. Взломать можно всё, и взломают стопудово. Или найдётся очередной Эдвард Сноуден. То есть периметр небезопасен, и нужно строить распределённые системы, чтобы нельзя было из одного места украсть слишком много ценного. Чтобы взломать можно было только конкретного человека, а это долго, дорого и малоэффективно. Так что никто из государственных чиновников не хочет отвечать своей головой за взлом огромной государственной базы данных.
Второе. Государство, конечно, хочет знать всё о других странах и защищать данные о себе. Разведчик и контрразведчик – одни из самых древних профессий. Но в современной ситуации есть слишком много данных, доступных либо публично, либо монопольно нескольким компаниям. Это перекашивает баланс сил во вселенной.
72
Потому что данные – это новое золото, нефть, новый самый главный ресурс.
И государству выгоднее парадигма, когда вся информация у людей зашифрована, и все разведки всех стран не знают, что происходит в государстве. А сама страна знает или располагает юридическим инструментом, чтобы прислать конкретному человеку запрос – не про всю его жизнь, а про конкретный эпизод. Типа: «Иван Иваныч, покажите историю ваших перемещений за последние сутки, а лучше за неделю, так как было правонарушение, и нам надо знать – были ли вы там или нет».
15
Разве государство не хочет само знать всё обо всех?
А зачем? Сейчас это архаичное мышление: сначала соберём данные, а потом разберемся.
113
Зачем собирать столько информации, если непонятно, что с ней делать, а украсть её могут в каждый момент времени?
Сейчас происходит переход от цифрового феодализма, когда все ресурсы сосредотачиваются у «феодала», к цифровой демократии. К сожалению, не Россия ведёт за собой. В этом плане довольно прогрессивные американцы, особенно в районе Кремниевой долины. В Европе тоже хорошо заметен прогресс.
В Китае, конечно, не демократия — там государство, компартия, и Великий китайский файрволл. Но они чётко озвучивают свой режим и, что главное, — многое своим угнетённым гражданам дают взамен: темпы роста и строительства колоссальны, а преступность мизерна. У нас пока сформированной позиции нет, но я верю, что в долгосрочной перспективе демократизация интернета выгодна, потому что люди, которые защищают, охраняют и передают по наследству свои данные, понимают, как это может помочь им. От данных не надо отказываться, а просто вернуть человеку, создав новые алгоритмы в виде цифрового помощника. Чтобы он реально помогал человеку и предлагал то, что ему действительно нужно, помогать ему развиваться, так чтобы человек к 40 годам понимал, что он действительно нашёл себя.
16
Вы в начале интервью говорили про страх перед скайнетом, но помощник, которого вы описываете, скорее похож на искусственный интеллект из фильма «Она» — более дружелюбный и эмпатичный. На что всё-таки будет похожа эта технология?
Курс на слияние человека и машины неизбежен. Нравится нам это или нет, но мы сейчас разговариваем, а где-то в лабораториях ряда стран идёт развитие искусственного интеллекта вопреки всем опасениям, вопреки тому, что многие учёные говорят: «Не надо этого делать» (и я с ними согласен). Сейчас нет такого термина, как ИИ, есть машинное обучение. Разница в том, что машинное обучение контролируется человеком: ты обучаешь машину что-то делать, и она это делает. Но она никогда не может начать программировать сама то, чего у неё не просили. А вот если появится сущность, которая себя осознала и может программировать то, что считает нужным – она элементарно обходит все ограничения и улетает в своём развитии в космос. Нам на эволюцию требуются миллионы лет, а ей потребуются секунды.
156
Мы станем для неё, как для нас – бактерии. Нас же не интересует мнение бактерий. Бахнул антибиотик, и всё. То же с ИИ.
Это, судя по всему, неизбежность.
Единственный способ выжить в данной ситуации – остаться у контроля. Остаться сущностью, которая принимает решения, а для этого нужны симбиотические отношения – нужны технологии, чтобы самому стать лучше. Чтобы ты себя делал лучше, быстрее, сильнее, развивал память, улучшал связь с людьми.
17
Ну как себя ни контролируй, если ИИ появится, он с нами считаться не будет?
Не совсем. Он не появится. Если человек сохранил сознание, а технология развивается применительно к его сознанию, отпадает необходимость в создании автономного сознания.
То есть мы не должны стремиться создать что-то отдельное от себя?
Мы должны стремиться к симбиозу. Есть два пути эволюции – технологический и биологический. Вот у дельфинов биологический путь: они развивают собственное тело и, например, эхолот в их головах не проигрывает тем, что мы ставим на подводные лодки.
125
А мы - ленивые обезьяны. Мы взяли палку и подумали: зачем отращивать копающую руку, когда можно воспользоваться инструментом.
Так мы поставили себя на путь технологической эволюции, и с этим надо смириться. В процессе эволюции надо просто остаться людьми, которые себя улучшают, а не создать что-то, что улучшает себя рядом с нами. Нам не нужен ещё один вид, который конкурирует с нами за эту планету, потому что мы неизбежно вступим с ним в борьбу, в которой, как в «Горце», останется только один. Мы уже конкурировали как-то с неандертальцами и другими видами людей, и всех убили.
18
А те, кто сейчас работают над ИИ, понимают такую перспективу?
Они говорят, что понимают, но человек — всего лишь человек. Проблема в том, что любые высоконаучные исследования стоят денег, а их даёт инвестор, у которого, как правило, цель – отбить эти деньги. Так что я не верю, что все исследования ИИ диктуются научными интересами. Часто это конкретный заказчик. Ещё чаще – военный. Если обратиться к миллиону человек и сказать: давайте скинемся все по 500 рублей и будем делать ИИ, который никому не принадлежит – это было бы разумно, потому что нет чёткого заказчика, который гнёт свою линию. Сейчас, я уверен, ситуация обратная.
Тема пятого интеллектуального шоу TEDxNovosibirsk заявлена как «Человек будущего». Каким должен стать человек будущего? С какими вызовами он столкнётся?
Человек уже сейчас сталкивается с кучей вызовов, и их будет ещё больше. Совершенно точно — перенаселение и снижение количества рабочих мест из-за роботизации. Надо придумать людям занятие!
140
И второе: человек будущего должен сделать так, чтобы деньги не стали единственным мерилом счастья и эффективности — а сейчас это именно так.
Начиная с института мне все вокруг говорили: надо бабки зарабатывать, лезть по карьерной лестнице, а потом ипотеку, а потом новый пейджер, а потом телефон, а потом смартфон. Но моего мнения во всём этом было ноль, все говорили, что нужно делать. Это как «Матрица» – ты просто спишь. А мерилом успешности должно быть то, с каким удовольствием ты делаешь что-то.
78
И когда будет цениться само отношение к делу – вот это будет человек будущего.
У меня было время это понять. Я преодолел путь до топ-менеджера, потом уехал на год в Таиланд, где и понял, чем я хочу заниматься. Мне повезло с родителями, которые позволили мне развиваться творчески и не баловали, к тому же, к этому возрасту я уже заработал самостоятельно достаточно средств, чтобы смочь вот так уехать.
19
65 слов произносит Арнольд Шварценеггер в роли Терминатора
Мало кто может себе такое позволить.
О чём и речь. Мне повезло: куча факторов сложилась. Но нужно, чтобы это стало массовым – когда человек понимает себя и не стремится только денег заработать. Я убедился, что не чип делает человека киборгом. Я встречался со множеством людей – топ-менеджеры, уважаемые люди, иногда миллиардеры, иногда силовики: для многих киборг – это ещё компл
