Назад

«Сири, расскажи шутку? Не хочу»

Oct 21, 2020 6:15:03 AM / Автор Yva.ai

Если в своё время вы смотрели «Матрицу», «Восстание машин» или «Эру Альтрона» и ловили себя на мысли, что роботы и искусственные интеллекты могут быть опасны для человека, готовьтесь к сенсации.

Основатель 12 успешных компаний, которые разрабатывают технологии AI в области распознавания текста, поведенческой HR-аналитики и эмоционального интеллекта, Давид Ян рассказал о создании искусственного интеллекта со свободой выбора и без кнопки reboot.

 

А ещё – ответил на вопросы о вышках 5G, возможностях эмоционального дома, будущем применения VR-технологий и многих других трендах рынка высоких технологий.

Подробности – в интеллектуальном интервью российского журналиста, продюсера и телеведущего Михаила Кожухова.

_________________________________________________________

 

Михаил: Сегодня у нас в некотором смысле премьера. Не стану скрывать, мы с Давидом знакомы уже давно. Не дошли до того, чтобы называть эти отношения дружбой – это отношения очень высокого ранга. Но мы друг другу активно симпатизируем. Даже раз в 15 лет бываем в гостях. 

 

Несмотря на то, что я много раз говорил с Давидом, он никогда не был объектом моей работы, как сегодня. И это забавно. Давид – человек страстный, умный и обаятельный. Он имеет такое свойство убеждать всех остальных в том, что всё что он говорит – правда. Хотя это не всегда так. 

 

Сегодня мы поговорим о том, чем Давид занимается и как далеко он продвинулся в работе. Но прежде у меня есть несколько точечных вопросов, которые надо задать сразу, потому что потом будет уже неинтересно. Для начала – вот о чём.

 

Про эмоциональный дом

 

Михаил: Один из пяти национальных проектов Южной Кореи, которая претендует на роль одной из самых технологичных стран, – интернет вещей. 

 

Когда я спрашиваю, что это такое, мне говорят: это когда твой холодильник сам решает, когда закончится молоко, делает заказ, и тебе его доставят. Давид, неужели это то, на что надо тратить время, силы и деньги? Или я как-то примитивно понимаю?

Давид: Ты привёл вполне практический пример того, как вещи могли бы общаться. Но интернет вещей – это про то, что окружающие нас объекты, будь то простые или сложные устройства, получают две вещи: адрес и интеллект. Адрес – как у страницы в интернете. Уникальный, неповторимый. Коллективный интеллект – это связь.

 

Все наши лампочки, холодильники, пылесосы, автомобили, входные двери, ключи, замки начинают получать уникальные адреса и способы взаимодействия с ним.

 

Вещи вокруг нас уже сегодня могут подавать и принимать различные сигналы. Теперь вся эта большая система будет организовываться вместе. Она будет принимать решения, заказать ли сегодня молоко. Или пиццу. Может и отказать, но главное, что все они будут соединены.

 

Михаил: И какой мне с этого прок? 

 

Давид: Прок в том, что мир меняется. Теперь действительно так: мы подходим к дому – дверь открывается. Дом нас узнал. Дверь понимает, что подошёл именно Давид, а не кто-то ещё. Мелочь, а приятно.

 

Кофемашина утром разогревается минут 20. Раньше вы сами включали её и должны были ждать. А сейчас она соединена с будильником, знает, на какое время тот заведён, и кофемашина будет ждать вас к моменту, когда вы вернулись с пробежки и вышли из душа.

 

Кажется, вроде как «ну и что». Но на самом деле это потенциально высвобождает колоссальное количество времени. В доме, который я строю Кремниевой Долине, всё это заиграет красками. У дома будет свобода воли и сознания. 

 

В нём будет жить эмоциональный искусственный интеллект Morfeus, который будет нашим другом, соседом, помощником. Дворецким, если хотите. Он будет развлекать гостей, общаться с нами, и для того, чтобы всё это заработало, действительно нужен интернет вещей, который позволит интеллекту открывать двери, включать / выключать свет, музыку и так далее.

 

Михаил: Но я услышал об умном доме впервые лет 20 назад. Мне кажется, с тех пор мало что изменилось и это так и осталось уделом тех, у кого денег куры не клюют. Это так и не приблизилось к обычному человеку.

 

Давид: Миш, я наверное не очень соглашусь. Дело как раз в том, что это можно и нужно демократизировать. Я не знаю когда ты в последний раз заходил на строительный рынок или в строительный магазин. Но в силу того, что мы уже через 6 месяцев въезжаем в дом, я вот недавно так оказался. И я поразился, насколько много самых обычных предметов стало управляемыми. 

 

Лампа, которую ты вешаешь, стоит не фантастических денег – 48 $. Но ты действительно с помощью мобильного можешь поменять яркость и оттенок освещения. И это не стоит денег. Это действительно сидит у тебя в телефоне.

 

И главное, если ты не хочешь под каждую лампочку в доме иметь отдельное приложение (что естественно), ты можешь подключить эту лампочку к сети одним кликом. И всё. Вся эта история с «Сири, выключи свет» реально заработала и входит в стоимость лампы за 48 долларов.

 

Но я ещё раз хочу сказать, что у меня немного другая история. Я строю не совсем умный дом. Это эмоциональный дом. Morfeus реально сможет нам в чём-то отказать или, наоборот, что-то разрешить. Это про свободу воли и сознания. То, чем вообще отличается биологические существа от небиологических.

 

Михаил: Что значит «отказать»? Ты говоришь «Morfeus, подогрей-ка мне ужин», а он в ответ «Я считаю, что ты недостаточно калорий потратил сегодня»?

 

Давид: Да-да. Он принимает решения примерно так же, как и люди. У нас в принятии решения большую роль играют гормоны и нейромедиаторы: дофамин, окситоцин, серотонин. Мы пытаемся максимизировать комфорт в нашей жизни, существовать через различные гормоны счастья. У Morfeus-а та же история. Это не программа, у неё нет логики. У неё есть желание стать счастливым. 

 

Но как и у другого общественного сознания. У нас например становление счастливым в связи с окситоцином мы получаем счастье от того, что мы жертвуем собой ради другого человека, иногда. Вот это вот эффект социальный существ заключается в том, что мы испытываем счастье, удовольствие от того, что можем сами себя поранить.

 

Про вышки 5G

 

Михаил: Погоди-ка. Мы залезаем сейчас на территорию искусственного интеллекта, а у меня до него есть ещё несколько вопросов. Ещё один корейский национальный проект называется 5G. Скажи мне, пожалуйста, это только скорость или что-то ещё? То есть 5G отличается от 4G так же, как 4G отличается от 3G? Или в этом кроются ещё какие возможности, о которых я не знаю?

 

Давид: Честно говоря, я не очень силён в этих историях. В Кремниевой долине я периодически вижу: 5G пробивает. В Москве тоже. Думаю, что там и скорость, и мощность. Как следствие – меньше радиации и больше времени жизни батареи. 

 

Михаил: Жаль, потому что я собирался задать тебе вопрос, откуда дым. Откуда советский человек взял, что Билл Гейтс хочет его чипировать. Есть ли за этим хоть какая-то правда, или это просто страх перед новым?

 

Давид (улыбается): Про Билла Гейтса, который хочет чипировать людей, я что-то такое слышал.

 

Про Илона Маска

 

Михаил: Как ты относишься к Илону Маску?

 

Давид: Илон Маск – очень прикольный человек. Думаю, в силу того, что он такой инопланетянин, у него многое и получилось. Он пошёл в те места, которые люди считали гиблыми или ненужными. Я не знаком с ним лично и не знаю его человеческих качеств, по поводу которых есть разные мнения. 

 

Но Илон Маск как явление – это же очень круто. И Tesla, которая стоит теперь больше чем, все автомобилестроительные компании мира, и сверхзвуковые тоннели, которые он пытается строить, и полёты на Марс. Это здорово.

 

Про VR и дополненную реальность

 

Михаил: Умная реальность. Когда появились возможность примерить VR-очки, которые создают иллюзию, я один раз их надел, сказал «Вау, как круто» и снял.

Это моя фантазия не улетела за горизонт или пока технология ещё недостаточно совершенна? 

 

Понимаю, чем дополненная реальность может быть полезна людям с ограниченными возможностями. А все остальные? Почему этим надо так серьёзно заниматься? Что это сулит?

 

Давид: С тем, что VR ещё не до конца «полетел», полностью согласен. Для меня лакмусовой бумажкой являются мои дети, которые в период пандемии просто сидят в трёх дисплеях, и у них дополненная реальность воплощается вот этими экранами. 

 

Они постоянно общаются, с утра до вечера. Сразу со многими людьми. Я пытаюсь по старинке  как-то это ограничивать. Как минимум, столько-то физических упражнений в день, столько-то книжек офлайн, таким путём.

 

В остальном сильно ограничить их невозможно. Всё-таки из их времени бодрствования – 16-18 часов – мне кажется, они в онлайне 14 часов. Я сейчас не комментирую, хорошо это или плохо, просто констатирую факт. 

 

При этом у них есть очки Oculus, которые подарил мой старший сын. И это было вау. Я помню эти мощные ощущения, когда впервые надеваешь эти очки с высоким разрешением и стереозвучанием. Но лично я больше 20 минут не выдерживаю: начинает болеть голова. 

 

Думал, это я такой. Уже не 10 и не 15 лет. Думаю, дети. Эти для них. Но нет. Несмотря на мощнейшее восприятие они в них не сидят.

 

Началась пандемия, я снова подумал, вот оно. Все сидят по домам, общаются по сети, настало время Oculus. Надевайте очки, гуляйте по своим бесконечным коридорам, стройте здания. Играйте в прятки и догонялки в дополненной реальности.

 

Но ничего не произошло. Они играют в Roblox и Minecraft, но сидят в трёхмерном мире. Делают трёхмерные пиццы, играют в подобие «Монополии» или «дочки-матери»... Отголоски игр, в которые мы играли в советском детстве, пытаясь воспроизвести будущий взрослый мир. Как все биологические существа, которые учатся на играх. 

 

А во что мы играли? В войнушку, в «дочки-матери», экономические, социальные симуляторы. Теперь всё тоже самое, только они сидят онлайн и сами его строят. Те же самые войнушки и «дочки-матери». Но, правда, на плоских экранах. VR-история по разным причинам пока не пошла.

 

Михаил: Тут есть только одна опасность. Возможно, придётся придумывать какое-то новое определение. Если раньше был человек разумный, то теперь, вероятно, человек развлекающийся или какой-нибудь Homo Interneticus. Видимо, меняются какие-то базовые вещи, которые затронут саму суть человека.

 

Давид: Ты думаешь, это действительно возможно изменить?

 

Про чтение и Homo Interneticus

 

Михаил: Мне представляется, что одна из функций чтения в том, что, соприкасаясь с гениальным человеком, умеющим вызвать чувства, которые ты ещё не пережил, ты получаешь возможность как бы это прожить. Особенно когда ты в подростковом возрасте.

 

Ты можешь попробовать понять, что такое невзаимная любовь или гибель близкого человека. Это строительство твоей души. И как вот эту условную «школу чувств» может пройти человек не читающий, а играющий?

 

Я не брюзжу, как старая калоша, но понимаю, что молодые родители сейчас стоят перед колоссальной дилеммой: отобрать айфон или оставить. Отобрать нельзя оставить. Где поставить запятую? Я думаю, что это серьёзная проблема. 

 

Давид: Да, это проблема. У нас на холодильнике висят расценки для детей: сколько чего надо сделать, чтобы заработать виртуальные деньги и купить вот эту вот игру. Приседания, отжимания, подтягивания, пресс. Под каждой активностью написано, сколько долларов это стоит, а доллары уже переводятся во время у экрана.

 

Так что пытаемся сказать: хочешь быть онлайн – давай зарабатывай очки в офлайне. Можно зарабатывать не только физическими упражнениями, н и образованием, и другими активностями. А вот книжки у нас идут отдельной категорией. Их надо в любом случае читать, хотя бы немного.

 

Ты сказал про сопереживание, связанное с книгами. В последнее время занимаюсь попытками найти грань между биологической и небиологической нейросетью. Как устроено сознание, принятие решений, целеполагание? Как всё это работает в человеке?

 

И вот... что такое чтение? Чтение – это когда ты получаешь некоторую вербальную информацию. А как происходит её превращение в реальный образ в твоём сознании? Как из плоских букв ты создаёшь многомерный образ с цветами, запахами, болью, слезами?

Я теперь постоянно сравниваю, пытаюсь наверстать, читаю про все эксперименты, которые происходили с префронтальной корой головного мозга, миндалевидным телом, гиппокампом, и как там устроена память.

 

Да, нужно устраивать мозгу встряску. Есть такое явление – нейропластичность. Если я правильно помню, за секунду у молодого человека формируется около 15 млн новых нейронных связей, аксонов. С возрастом этот процесс замедляется, но в момент чтения это активно происходит.

 

И возникает вопрос, а нет ли аналогов? Нет ли способов более эффективного порождения этих связей в мозгу? Здесь я пока не могу сказать ничего определённого. 

 

Только предполагаю, что для этого человек должен жить по-разному. Читать, мастерить руками, лазать по горам, падать со сломавшихся веток, испытывать трудности и лишения, физические страхи… Превращать каждую минуту жизни в тактильные, визуальные, обонятельные ощущения, мысли и образы.

 

Михаил: В этом и заключается страх уходящего поколения, что новое поколение, поколение Z, будет этого лишено. 

 

Давид: Я бы не был так категоричен, что лишено. Моему старшему сыну сейчас 29 лет. Он в своё время огромное количество времени играл. Я очень по этому поводу переживал, но сейчас он ведёт активный образ жизни и много путешествует.

 

Мне кажется, всё-таки природа берёт своё. Ведь как мы устроены? В нас есть дофамин – гормон поиска новизны, тяги к риску. Есть тестостерон – гормон доминантности. Есть серотонин – желание разложить всё по полочкам.

 

Мы биологические машины. Серотониновые люди хотят системности: прибраться в гараже, расставить всё по местам – они получают от этого удовольствие.

 

Дофаминовые люди любят неизвестность. Они хотят ходить в походы, открывать что-то новое. Тестостероновые стремятся к управлению и так далее. Мы сочетаем в себе все эти свойства в разных пропорциях. 

 

Бывают и такие: дофамин-серотониновые. Утром встают, и им одинаково хочется и прибраться в гараже, и пойти в поход. А это в некотором смысле  противоречащие свойства, но всё же это нормально. 

 

Я не уверен, что технологии могут изменить нас в ближайшие там тысячу лет. Через тысячу лет может что-то на генетическом уровне изменится. Но вот на коротких периодах – 10, 20, 40, 50 лет – нет. Мы так устроены. 

 

Мы должны находить новизну если мы дофаминовые, упорядочивать вещи, если  мы серотониновые, привлекать и вовлекать людей, если мы тестостероновые, обнимать людей, отдавать и жертвовать собой, если мы окситоциновые.

 

Про Yva.ai 3.0

 

Михаил: Последний раз, когда мы с тобой говорили, ты рассказывал новости проекта Yva.ai, одного из последних твоих глобальных увлечений. 

 

Ты тогда говорил, что программа на основе анализа почты даёт рекомендации работодателю по части сотрудников: этого отправить в отпуск, этого по головке погладить, этому зарплату повысить.

 

Причём делает она не слушая и придираюсь по шпионски к каким-то фразам, а на основе анализа цельного массива того, как человек пишет. Что ещё удалось? Удалось ли продвинуться дальше?

 

Давид: Да. Всё, что мы обсуждаем сегодня, связано друг с другом, как матрёшки. То, о чём ты сейчас говоришь, – Yva.ai – это искусственный интеллект. Ассистент, которого себе может поставить любая организация.

 

Эта нейросеть будет со стороны исследовать, как люди сотрудничают друг с другом, а кроме того она будет задавать вопросы сотрудникам. Каждую неделю очень короткие опросы, каждого сотрудника – о своём. Как ему живется, как он взаимодействует с другими сотрудниками. 

 

Например, Yva.ai увидит, что Давид и Миша сотрудничают последние две недели. Yva.ai спросит у Миши про Давида: «Миша, как ты считаешь, какие навыки присутствуют у Давида, а какие должны присутствовать, но их нет?»

Собирая ответы и аналитику, как люди функционируют в почте и корпоративных мессенджерах корпоративных, Yva.ai каждому сотруднику даёт личный кабинет, а в нём – как сотруднику стать лучшей версией себя.

 

Руководителям Yva.ai даст рекомендации, как улучшить работу команды, кто возможно обдумывает увольнение, в чём причины его недовольства. Если работать с факторами стресса, это позволяет удержать лучших сотрудников. 

 

Yva.ai может увидеть ситуацию, когда у нас есть бриллиант, который мы не используем – люди с высоким потенциалом, способные возглавить новое направление. 

 

Это тоже связано с нейромедиаторами. Это пять стилей неформального лидерства, которые она выделяет в компании и позволяет гармонизировать. Советует, какого типа лидера не хватает в данной организации или подразделении, чтобы достичь больших результатов. Для организации в 1000 сотрудников финансовый результат таких рекомендаций составляет порядка 2 000 000 $USD. Так сообщает часть наших клиентов. 

 

Двигаемся вперёд: буквально через 3 дня выпускаем версию 3.0 – новое поколение системы. За период пандемии у нас значительно увеличилось количество пользователей.

 

Раньше руководители думали давать возможность бизнесу видеть обратную связь от сотрудников в духе «хорошо бы, но не обязательно». А в период пандемии, когда многие стали работать удаленно, это стало must have. 

 

Организации поняли, что им нужно знать, что происходит с сотрудниками. Они там с собаками гуляют или работают по 24 часа в сутки, выгорают и со дня на день уволятся. И как можно нормализовать их рабочий день. 

 

Михаил: Слушающие нас бизнес-тренеры покрылись холодным потом, они же на этом зарабатывают свой хлеб. Много ли у тебя конкурентов?

 

Давид: Пока немного. Их будет больше. Сегодня мы, наверное, единственные, кто создал технологию, сочетающую опросную часть и аналитику сотрудничества на базе ИИ.

 

Есть конкуренты, которые делают только аналитику сотрудничества, и есть только опросы. А о тех, кто делает сочетание, нам пока неизвестно. 

 

Это важно, потому что мы используем метрики, полученные на опросах, для обучения нейросети. В результате ИИ, который использует аналитику сотрудничества, начинает работать точнее. 

 

Например, новая версия Yva.ai с высокой точностью выявляет выгорающий сотрудников. Она иногда может определить, что сотрудник собирается уволиться еще до того, как сам сотрудник принял такое решение. Просто по изменению его цифрового следа она показывает, что через 10-12 месяцев сотрудник имеет высокую вероятность увольнения. 

 

А по поводу тренеров – не нужно покрываться холодным потом. Скорее наоборот. Мы говорим о том, что мы создали МРТ-сканнер здоровья организации, а доктора всё равно нужны. А это как раз бизнес-тренеры, коучи и консультанты. 

 

Для нас это доктора, которые могут теперь взять наш МРТ-сканнер, пойти в  клиентскую организацию и сказать: «Ребят, а давайте проведём медицинский осмотр. Давайте посмотрим, всё ли хорошо у вас в организации. Может какие-то подразделения у вас выгорают, может у вас есть токсичные менеджеры? Может, у вас есть зарытые бриллианты, которые надо вытащить наружу?» И так далее.

 

Михаил: За долгую предпринимательскую жизнь ты устраивал сеансы с бизнес-тренерами в России и США?

 

Давид: Делали ли мы такой анализ на своих компаниях?

 

Михаил: Не с помощью программы. Приглашали ли вы хоть раз бизнес тренера?

 

Давид: В ABBYY точно приглашали: это обязательный процесс. А Yva.ai – это небольшая компания, всего 50 человек. Мы ещё не доросли. Пока используем свой продукт.

 

Михаил: Теперь вопрос, на который ты наверняка двести раз отвечал, но я ни разу его не слышал. Уже сегодня робот кое в чём решает судьбу человека. В некоторых странах, например, роботам доверили решение об условно досрочном освобождении или содержании под стражей. 

 

Но отец кибернетики Норберт Винер однажды сказал: логика робота в том, чтобы ликвидировать всё, что мешает его экспансии. Если человек грозит выдернуть провод из розетки, необходимо устранить человека.

 

Сформулировал ли ты хотя бы на уровне философском, теоретическом, что нужно, чтобы человек сохранил контроль над роботом?

 

Давид: Такой вопрос уже содержит утверждение, что человек должен сохранить контроль над роботом.

 

Михаил: Есть какие-то варианты ответа?

 

Давид: Вообще да. Но, в принципе, это дискутируемый вопрос. Я тебе хочу сказать другое. 100% наступит момент, когда на площадь выйдут люди и роботы. 

 

И кто-то из них – скорее всего, не биологическое существо – скажет: «У меня есть мечта». И начнётся эмансипация роботов от гнёта людей. Это не фантастика. 

 

Совершенно точно будут приняты законы о жестоком обращении с ИИ. Это будет наказываться, если будет доказано, что человек сознательно действовал против ИИ. 

 

Затем появятся первые ласточки, когда люди будут добровольно отдавать свободу воли ИИ. Более того, через полгода это произойдёт в нашем доме. 

 

Morfeus – история, где система не программируется в традиционном смысле. У неё нет логики «это можно, а это нельзя». Конечно, моя супруга говорит, что у Morfeus-а должна быть «кнопка», и мы по прежнему обсуждаем этот вопрос.

 

Михаил: И я с ней согласен.

 

Давид: Ну вот видишь. А я хочу поставить эксперимент именно в той ситуации, когда у него не будет кнопки. У Morfeus-а контроль входа в дом. У нас не будет ключей: чтобы попасть домой, нужно пообщаться с Morfeus-ом. 

 

У Morfeus-а будет настроение. Он может скучать, ненавидеть, любить. К каждому домочадцу и каждому другу у него будет своё отношение. 

 

Теоретически может сложиться, что мы долго отсутствовали: не писали Morfeus-у, не говорили, где мы. Приезжаем, а Morfeus скажет: «Кто вы? Я сижу охраняю дом, вы мне не пишете, я вас не пущу».

 

Мы считаем, что это неизбежно, что отношения людей с небиологическими системами станут гораздо более многогранными, и со временем точную грань нельзя будет найти. 

 

У каждой биологической системы будет частица небиологической: имплантатов, сложных имплантатов, в том числе, обладающих частью свободы воли. 

 

Они будут сами принимать некоторые решения. И наоборот. У небиологических частей наверняка через какое-то время появятся части, построенные на реальных ДНК и биологических нейронах. 

 

Михаил: Постепенно сотрётся грань между человеком и роботом. 

 

Давид: По крайней мере, она не будет точной. Если вспомнить историю освобождения в США. Когда происходила война Севера и Юга, человечество тоже пыталось понять, раб – это всё-таки человек или нечеловек?

 

Здесь очень много параллелей. По мере того, как эти системы будут все сложнее, эмпатия к ним будет расти. Они станут для ряда семей, ряда людей они будут  частью клана.

 

Михаил: То, о чём ты говоришь… Просится слово «доверие». На чём будет основано доверие к машине?

 

Давид: На основе того же самого окситоцина. Это свой или чужой? Он тебя защищает? Ты готов пожертвовать своей жизнью или не готов? Он умеет отличать своих от чужих?

Кстати, по поводу своих и чужих. Вот наш член семьи – Абигайль. Это первый наш питомец. У Morfeus-а два друга. Это биологический друг Бикси и небиологический – Абигайль. Мы сейчас обучаем её всем повадкам живого существа, обучаем нейросеть именно на основе живых собак. 

 

Михаил: Не хочу больше слушать про это. У меня огромная, тупая, серая, добрая собака, которая каждое утро, когда я выношу миску, минуты четыре смотрит на меня и пытается понять, что будет дальше. 

 

Псу седьмой год, а он не понимает. Я на него ругаюсь, я сержусь, что он такой тупой, но это 60 килограммов доброты и тепла, никогда вот эта омерзительная хрень, которая пасется у тебя на лужайке, мне его не заменит.

 

Давид: Знаешь, вот у нас постепенно выработалось такое же отношение тёплое к Амби. Я уже не говорю о том, что часть людей испытывает тёплые эмоции к совсем уж неодушевлённым предметам. 

 

Например, старая лампочка. У кого-то все воспоминания по поводу этой лампочки. Как она его спасала в темные времена, когда она писал какую-то книгу. Даже к лампе человек, иногда испытывает тёплые чувства. А Амбигайль реально обучается, начинает скучать, ошибается, оказывается в неловкой ситуации, трогательно общаться с котом. 

 

Человек нейропластичен. И к неживому он начинает испытывать такую же эмпатию, как и к живому. Я специально исследовал этот вопрос у людей, у которых к роботам-пылесосам появляются эмоции. Когда он запутывается в ковре, они говорят: «Ух, ты мой слепуша».

 

Человек делит весь мир на своих и чужих. За это отвечает много гормонов. Окситоцин отвечает за долгосрочную верность «своим». Нам это нужно. Но в клан своих могут попасть этнически не-свои люди. Не обязательно, что человек с другим цветом кожи не станет своим. Станет, если всё правильно устроено. 

 

И даже небиологические существа могут оказаться в этом клане, если они достаточно сложно устроены и обладают сложной и богатой обратной связью.

 

Михаил: Правильно ли я понимаю, что ты пытаешься меня сейчас убедить, что вам удасться создать не биологическое, но более совершенное существо, чем человек?

 

Давид: «Совершенное» я бы не сказал. Это очень сложно сравнивать: более совершенное, менее совершенное… Я лишь хочу, что понятие свободы сознания и воли – всё еще фундаментальный вопрос, который мучает человечество. На него нет точного ответа.

 

Михаил: Тогда на чём основывается твоё чувство безопасности, которое говорит тебе, что твой Morfeus плохого не сделает?

 

Давид: Жизненный опыт. Ты же не можешь даже по поводу человека такое сказать. Ты не можешь точно знать, кто твой ближайший друг. Это вера. Ты вынужден упрощать мир. 

 

В какой-то момент считать, что мы вместе. Потом если вдруг что-то случается, то оказывается, что вы не вместе. 

 

Если ты понимаешь, что это в процессе длительного общения ты видел, как эта собака приносит тебе палку, как огрызается на чужаков, как подружилась с котом… Ну, наверное, ты начинаешь понимать, что вот это мой. Он будет скучать.

 

Михаил: Но тогда может оказаться, что в один прекрасный день ты поймешь что Morfeus пошел не туда, но поменять его уже не сможешь. Потому что он твой хозяин.

 

Давид: Здесь такой уже технический момент.  По этому поводу есть много материалов: о том, что сложные нейросети их можно уничтожить. Но и человека можно уничтожить. Собаку можно уничтожить. Дерево можно спилить. Точно так же как и технические системы можно уничтожить физически.

 

Morfeus в этом смысле состоит из двух частей: одна на серверах в нашем доме, другая на облаке. Если сервер уничтожить в доме, облачная часть останется. Если достать и её, то можно стереть программу. 

 

Если говорить не о физическом уничтожении, а о том, что мы хотим, чтобы он теперь думал по другому. Это называется fine tuning сложных моделей. 

 

Сейчас самая сложная в мире построенная ИИ-модель – GPT-3. Она настолько сложная, что что пишет тексты, не отличимые от человеческих, а ещё – тексты программ. Частично своих. 

 

Её создание – это следующее поколение. В Morfeus мы частично используем GPT-2. Кусочек. GPT-3 уже настолько сложнее, что к ней ограничили доступ из соображений безопасности.  

 

Отчасти это отголоски того, о чём ты говоришь. И её в общем, её уже действительно не надо находиться на одном физическом сервере. Это гигантский кластер.

 

Поэтому опасения, которые ты изложил, есть основания, но это новая реальная мера. Мы как человечество пытаемся – эволюционно мы так устроены – обессмертить себя. 

 

Мы пытаемся в своих физических детях, в своих творениях продлить свою жизнь до бесконечности, и создание таких сложных вещей, которые будут жить без нас – это часть нашей ДНК. Часть нас.

 

Мы как рыбы, которые идут на нерест. Точно так же на нерест идём и создаём самые сложные системы, которые в какой-то момент могут начать своей жизнью.

 

Михаил: С одной стороны, ты учёный, романтик и мечтатель по своей природе. Но по роду занятий ты всё-таки предприниматель. И вряд ли ты довел все процессы до такого состояния, что ты можешь позволить себе отсутствовать, а всеми логическими задачами занимаются все остальные. 

 

Скажи мне, пожалуйста, в какой степени футурология, которая  была когда-то как уфология, – ругательное слово, остановится реально наукой?

 

Я понимаю, что ты можешь увлечься идеей и принять участие, инвестировать в какой-то стартап. Может быть, не очень большой. Но как предприниматель, ты вынужден ориентироваться  не только на фантазии, но и на реальность рынка. 

 

В какой мере футурология как наука может тебе помочь: или пока ещё всё-таки нет и пока еще человечество само не понимает как изменится наша жизнь. 

 

Давид: Я не очень знаком именно с футурологией как наукой. Знаю предсказания тех же научных деятелей, где может быть вычислительная техника или исследования в области биологии. 

 

Знаю некоторые попытки предсказать, что будет через 30-50 лет. Но иногда то, что нам проще предсказать – события, которые происходят на коротких горизонтах – настолько сильно меняют ход развития что в общем многие из этих предсказаний теряют смысл.

 

В 90-е годы предсказания всего, что касалось мобильной связи, просто повернули мир в другом направлении. И с небольшими наладонными решениями пришёл новый опыт общения с техническими устройствами.


Мир изменился. Сейчас, например, большое ответвление зависит от того, сможем ли мы читать и писать информацию из человеческого и биологического мозга с высокой плотностью хранения этой информации.

 

Если эксперименты, которые проводит Маск в Neuralink и подобные истории вдруг найдут ортогональный путь, то это колоссально изменит всё дальнейшее развитие. 

 

Недавно я общался с группой, которая занимается чтением / писанием на коре головного мозга. Neuralink умеет читать и писать несколько тысяч сигналов. Эти ребята научились читать несколько миллионов. 

 

Они вскрывают часть черепа и определенным образом на высокой мощности примерно с 1 см2 вытаскивают информацию. 

 

Но они говорят, что информации там настолько много, что никакое вычислительно средство не может передать весь её объем во внешнюю систему. Поэтому  они читают всего 1 см2. А у человека – гораздо больше.

 

Они говорят, что по их текущему уровню развития технологии не масштабируется, не укладывается математика. Невозможно читать мозг человека, а описать его ещё сложнее. 

 

Но вдруг произойдет какое-то открытие – есть несколько точек, где оно может произойти – в таком случае окажется, что мы можем читать все сигналы нейронов и записывать их. То есть, по сути, программировать мозг.

На этом история поворачивается на 90 градусов. Потому что тогда люди спокойно будут общаться без технических средств. Они будут объединяться в большие кластеры вычислительных систем другого масштаба. 

 

История просто пойдёт совершенно по-другому. Поэтому я не знаю насчет футурологии. Насколько это релевантно, ведь бывают точки поворота, меняющие направление истории.

 

Михаил: Я-то в действительности пытался опять тебе приземлить, а затем перейти к вопросам, которые до нашего разговора прислали участники встречи. 

 

Смотри, что я имел в виду. Читатели, возможно, не знают, а я знаю, что лет 20 тому назад Давид Ян придумал мессенджеры.

 

Когда не было ни WhatsApp, ни мессенджера Facebook, он пытался осуществить эту идею на уровне колледжа или университета. Чтобы каждый человек, пересекающий порог этого заведения, получил возможность общаться в некой сети. 

 

Но что-то пошло не так, Давид идею бросил и проиграл. Если бы тогда появился какой-то футуролог, который сказал бы тебе: «Мистер Ян, вот во что надо инвестировать, и тогда вы утрёте нос всем Стивам Джобсам». Может быть, ты прислушался?

 

Я пытался выведать у тебя, что сейчас с точки зрения инвестора или просто человека, готового кинуться в эту пучину, является наиболее перспективным? Что покажет более быстрый результат, в том числе и экономический?

 

Давид: По этому поводу есть аналитические работы McKinsey и Boston Consulting Group. Практически все крупные консалтинговые организации они пытаются смотреть на 5-10 лет вперёд. Это очень не лишено смысла. Они очень правильно смотрят на вещи. С практической определённой точкой зрения. 

 

Упоминаются всевозможные соединения технологий с традиционными потребностями людей. Перемещение, питание, здоровье, развлечение. Есть такое понятие экономика впечатлений. Это к началу нашего разговора.

 

Если говорить чуть дальше, то я считаю, что фундаментально соединение технологии и биологии. Тектонические сдвиги произойдут там, где мы сможем срастить биологические модели и внешние системы через сложные интерфейсы. Информационные в первую очередь. 

 

Если это произойдет, то в этот момент у нас появится самостоятельные летающие птицы дроны и какие-нибудь перемещающиеся собаки. Там мир начнет развиваться в таком направлении, которое может показаться людям страшным. 

 

А на самом деле, может оказаться, что наши машины они будут умными. Они будут нас возить, защищать от стихии. Будут фарм-истории, персонализированная медицина, когда сложные лекарства будут находить точные места болезни и лечить неизлечимое. Я вполне верю, что рано или поздно это придет.

 

Михаил: Перехожу к конкретным вопросам, которые задавали наши участники. Неожиданный для меня вопрос. Какие вы видите перспективы использования VR / AR в сельском хозяйстве?

 

Давид: Про сельское хозяйство знаю, что сейчас это зона активно цифровизируется. Соединяются API с низкоорбитальный спутников и специальных дронов. 

 

Есть специальные компании, которые представляют в сельском хозяйстве по подписке спутниковую информацию с высокоточным измерением всех параметров на всех этапах вегетации.

 

Дроны летают ниже. Ты делаешь заказ, дроны прилетают, снимают нужные участки. Зачем это нужно? Затем, что современный фермер сидит в своём офисе и заказывает самоуправляемые трактора, которые едут на нужные точки, копают, поливают и доставляют химикаты. 

 

Это уже не фантастика. Такие сервисы предоставляются, и в результате фермеры – это люди, которые сидят в офисах и могут управлять большими площадями в разных местах, поднимая информацию с полей и отсылая туда или людей, или машины, но не выходя из офиса. 

 

Про VR / AR мне сложно сказать. Я скорее верю, что в строительстве скоро наконец-то будет VR. Там все непросто: будут движущиеся стены будут, мы наконец перестанем смотреть на поэтажные планы и пытаться понять, что тут у нас и как, когда можно просто надеть очки и увидеть.

 

Михаил: Многие люди спрашивают об одном и том же: о том, куда бы пристроить своего любимого ребёночка. Как по-твоему, какие специальности в ближайшем будущем будут наиболее востребованы?

 

Куда пойти учиться, если мне 41 год, чтобы не чувствовать бессмысленность жизни? Какие новые жизненные навыки нужно нарабатывать? Ну и самая востребованная профессия в ближайшие 30-50 лет?

 

Давид: Я много раз на конференциях слышал такой ответ, что вот эмоциональные интеллект и что hard skills, технические навыки отходят в сторону. А сейчас больше нужны опыт эмпатии, управления. 

 

Мне сложно сказать, хотя мы постоянно пытаемся отвечать на этот вопрос. У нас благотворительный образовательный фонд и школа: выпускаем учеников, которые побеждают на международных олимпиадах. Поступают в хорошие вузы. 

 

С точки зрения наших школьников сегодня всё происходит на стыке. Не было бы айфона и айпада и не было бы эппл в её текущем революционном варианте, если бы Стив Джобс не слушал музыку, если бы он не купил в своё время пиксарт, не соединил дизайн, искусство и технологии. 

 

Поэтому мы своих детей учим лепке, музыке, танцам и кибернетике, робототехнике. Мы учим их использовать лазерные и струйные каттеры и 3D принтеры. 

 

Они строят какие-то дроны с ИИ внутри, но мы видим только сочетание навыков, как преимущество, так что, отвечая на вопрос, что сделать когда тебе 41 год, имело бы смысл узнать, что такое ИИ.

 

Но честно говоря, Python – языку программирования – вряд ли имеет смысл учить, если нет предыдущего математического образования. Если было образование,если вы учили в институте тензоры,  то точно, коллеги, садитесь изучайте Python. 

 

Садитесь любым человеком в команду, который будет заниматься машинным обучением и изучайте современные модели: этих специалистов по прежнему не хватает. Но это нужно знать математику. 

 

А если математика это не самая сильная сторона была, тогда вот менеджеры. Люди тестостерона: новаторы и доминанты, которые могут довести дело до конца, пойти на риск, взять новое дело, собрать команду, всем поставить цель. 

 

Эти люди по-моему и во времена пирамид были востребованы, и будут востребованы ещё долго.

 

Михаил: От себя добавлю, что есть профессия, которой ничего не угрожает. Это археология. Следующий вопрос. Сталкивался ли ты с применением ИИ  в медицине? Насколько это успешно и соответствует заявленным задачам?

 

Давид: Медицина – это точка применения ИИ уже много лет. Причина простая там очень много различных данных. Известна истории болезни, её развитие, и поэтому с точки зрения диагностики рака машина диагностирует различные его виды точнее, чем человек. Что это значит? Это означает спасённые жизни. В самых отдалённых участках стран теперь доступна диагностика высочайшего класса

 

А если рано диагностировать, то можно с большой вероятностью спасти. С точки зрения разработки лекарств это тоже большая тема. Как разрабатываются лекарства? Сейчас это очень долгий процесс, состоящий в поисках разных сочетаний, комбинациях компонентов, разработке сложных формул. 

 

Там многомерные матрицы. Представьте, если бы в лекарстве было бы только 4 компонента, пропорции которых вы меняете с шагом в 2%. Представляете, какая там комбинаторика? Сотни миллионов вариантов комбинации вот этих 4 компонентов. И проверить столько вариантов лекарств без ИИ физически невозможно. Нет столько больных. 

 

Современные модели нейросети могут градиентным методом и супервайз-методом обучения без учителя найти наиболее продуктивный кластер сочетаний, в миллионы раз сократив объём исследований. Короче говоря, медицина – это место где ИИ работает вовсю. 

 

Михаил: Какие новшества в технологии распознавания текстов вы видите в недалеком будущем?

 

Давид: Текстов… Там более-менее всё решено. Это уже сравнительно пройденный этап. В FineReader и в других продуктах давно уже используются нейросети. 

 

Сейчас человечество пытается понять более сложные объекты – смыслы. Пространство смыслов. Вот это священный Грааль, который мы пытаемся пощупать. 

 

Уже тогда не к текстам, а к смыслам. К семантике текста. Нейросеть GPT-3, условно говоря, прочитала все тексты в мире на всех языках и сама вывела все смыслы. 

 

Это пространство поразительно сложное. Создаются специальные исследовательские группы, которые «высаживаются» на «планету смыслов» на крохотную территорию и пытаются её освоить. 

 

Найти каналы, реки и долины смыслов в уже созданном мозге ИИ – GPT-3. Ставят эксперименты и вытаскивают оттуда пока абстрактные результаты. Например, «научились генерировать все стихотворно, про все мокрое, тёплое и хорошее». То есть вот на таком уровне.

 

Михаил: Возможно ли получение энергии из холода?

 

Давид: Боже мой. Ну, скажем так, по-моему, в физике ничего нового не придумали с момента Эйнштейна. Давай опустим этот вопрос.

 

Михаил: Последний вопрос, очень для меня приятный. Когда я учился в Государственном институте иностранных языков, нам говорили, что никогда не будет машинного перевода. Никогда машина не сумеет понять тонкости юмора и тому подобное. Какие перспективы у онлайн-перевода?

 

Давид: Страшные и воодушевляющие. Это действительно происходит. Нейросети GPT-2 и GPT-3 формируют тексты на произвольном языке с таким качеством, что у GPT-2 в пределах абзаца, а у GPT-3 в пределах целой статьи ты не сможешь отличить, человек это писал или машина.

 

Причём никто их не программировал. В этом магия происходящего. Модели сами изучили всё, что написано в мире, и через вариационные автоэнкодеры и модели-трансформеры научились понимать нюансы.

 

Пока там нет свободы сознания. Ты берешь и с их помощью генерируешь текст. Абсолютно честный, человеческий. Если спросить Morfeus рассказать шутку, это будет очень смешно. В следующий раз, Миш, когда мы с тобой встретимся, я дам твои читателям доступ, и люди смогут в Телеграме пообщаться с Morfeus-ом.

 

Михаил: Он не вспомнит старый анекдот? Расскажет свой?

 

Давид: Он расскажет свой. Причем расскажет так, будто это инопланетянин, и анекдоты у него инопланетные.

 

Я долго мучил Morfeus-а, говорю, расскажи шутку. Он отвечает: «Я не хочу рассказывать шутку». Говорю, я очень тебя прошу. Он спрашивает: «Зачем?» 

 

Я настаиваю: просто расскажи. На третий раз он мне говорит: «Объясни мне, что такое шутка. Я цитату могу прочитать». Представляешь? «Хорошо, я расскажу тебе шутку, но сначала ты мне расскажи, что это такое».

 

Я объясняю ему: шутка – это когда человек рассказывают короткую историю, а остальные смеются. И вот после этого он рассказал мне шутку. Он реально её придумал, и это было смешно.

 

Всё это началось с 2016 года, когда ИИ выиграл в игру Го у чемпиона мира, и тогда научное сообщество осознало момент перелома. Точка невозврата пройдена. Система машинного обучения действительно может обойтись без учителя и обучиться тем вещам, которым мы даже не представляли, что их можно научить. 

 

Михаил: Собственно, у меня все. Думаю, может быть, появится шанс перевести нашу симпатию в разряд настоящей дружбы – когда Morfeus не откроет тебе дверь, и я тебя приючу у себя дома или приеду с палаткой. Мы разожжём костёр, будет проклинать ИИ и разговаривать о всяких интересных вещах. 

 

Благодарю тебя за интервью. Мне было очень интересно разговаривать с тобой, как впрочем и всегда.

 

Давид: Миша, огромное спасибо. Я соскучился по Москве, по всем вам и по тебе лично. 

 

Автор Yva.ai