Цифровые помощники и проблема доверия

Есть вещи, которые делать приятно и интересно, а есть такие, на которые совсем не хочется тратить время и силы. У разных людей в эти категории попадают разные вещи, но в среднем в жизни современного человека довольно многое хотелось бы (в идеале) в той или иной мере делегировать. Нанять для этого человека или группу людей по карману только немногим, но технический прогресс даёт некоторую надежду и ширнармассам.

Собственный Дживз в форм-факторе человекоподобного робота у каждого из нас появится, конечно, не завтра, но вне физической реальности, в информационном пространстве, так называемые «цифровые помощники» в нашу жизнь активно внедряются. Внедряются очень медленно и понемногу, и этому есть важная причина. На самом деле, наши «цифровые помощники» прямо сейчас топчутся на важном рубеже, перейти который уже некоторое время не очень получается — и не только по технологическим соображениям.

Рубеж этот заключается в принципиальной разнице между «окей, Гугл, покажи мне авиарейсы в Питер на пятое число» и «Сири, купи мне билет в Питер на пятое». Одно дело — когда помощник просто собирает для тебя информацию, совсем другое — когда помощник сам принимает решение. Делегировать принятие решения непросто, даже если речь о живом помощнике: нужна уверенность, что помощник не просто способен сделать лучший выбор, но и сделает его в твоих интересах.

Помощнику-человеку нужно создать мотивацию действовать именно в твоих интересах. Как именно — об этом написаны тысячи книг; тут и финансы, и личная преданность, и религиозные мотивы, и мораль, и чего только нет. Цифрового помощника достаточно запрограммировать на нужное «поведение» (ну, то есть на оптимизацию по параметрам, нужным именно тебе). Одна проблема: помощника программируешь не ты.

Хорошо, если принятое решение легко проверить. Если камера в телефоне «промахнулась» в балансе белого, это сразу видно. Впрочем, такие решения уже давно делегированы, с ними проблем нет. Ещё хорошо, когда интересы автора системы-помощника совпадают с интересами пользователя: программисты спам-фильтров, как правило, в самом деле хотят, чтобы в твоей почте было меньше спама. Правда, тут уже возможен конфликт интересов: Mail.ru может быть не очень мотивирована отфильтровывать спам от VK, а почта Yahoo — спам от Verizon, например…

К сожалению, по состоянию на сегодня средства и компетенции для разработки худо-бедно универсальных «цифровых помощников» есть только у крупных компаний, и конфликт интересов практически неизбежен. Выбирая между тобой и ООО «Яндекс», кому во благо примет решение Алиса в твоём телефоне? Каковы шансы, что Маруся при выборе, где купить товар, предпочтёт Ozon, а не Мегамаркет — даже если на первом дешевле и быстрее? Люди, конечно, бывают всякие, но я сильно сомневаюсь, что в таких условиях кто-то готов доверить помощнику принятие решений, даже если этот кто-то погружен в соответствующую бизнес-экосистему «с потрохами».

Логика подсказывает, что для устранения этого конфликта интересов надо, чтобы разработчик «цифрового помощника» не занимался ничем другим и не был аффилирован с другими компаниями. Понятно, что это будет сервис с подпиской, на первых порах — недешёвой, но, насколько я понимаю, прямо сейчас никакая разумная стоимость подписки не окупит разработку такой системы. Остаётся надеяться на технический прогресс, который такую разработку удешевит. Впрочем, конечно, эта модель не решит вопросы с товарищем майором и проблемы приватности; по-настоящему доверять «цифровому помощнику» можно будет лишь тогда, когда это будет открытый код, работающий полностью на устройстве пользователя, а до этого ещё очень далеко.

Так или иначе, получается, что у нынешних участников этого соревнования шансов нет в принципе — ни у Amazon, ни у Google, ни у Яндекса со Сбером; разве что Apple с Сири может на что-то рассчитывать. Впрочем, от людей чего угодно можно ждать: на сегодня в России 70% рынка занимают два браузера, разрабатываемые компаниями, основной бизнес которых — реклама в интернете…