Тебя в ИИ забанили?

— Тебя в ИИ забанили? — открывая дверь она согнала радостную улыбку и постаралась придать лицу удивленное выражение.

Звонок в дверь застал ее битый час терзающей ИИ, чтобы нашел способ с ним связаться, но все без толку. Стабильно выпадало сообщение “абонент заблокирован”. И как прикажете искать человека, если все контакты в системе и через нее? Адреса она не знала, дозвониться не могла, а с работы он ушел вчера насовсем, забрав коробку с личными вещами. И вот теперь, по дороге к двери, вездесущий ИИ уже пять раз показал ей, кто пришёл без предварительного звонка. Даже на мониторе кофеварки. Не говоря уже о большом экране на двери, из-за которого она кажется пугающе прозрачной. Аня уже почти отчаялась его разыскать, и вот Борис стоит на пороге, как ни в чем не бывало. Высокий, подтянутый. И опять с этой своей улыбкой, от которой теплеет в животе и подкашиваются коленки.

— Ну прости, — он смущенно пожал плечами.

— Так не бывает! Никого не банят в ИИ!

— Я тоже так думал. Теперь вообще ничего не могу: ни в магазине расплатиться, ни погоду узнать. И как я работу искать буду? С тех пор как ИИ стал единым, никто не публикует объявлений, а у меня теперь черный экран и надпись: “В доступе отказано”. Поможешь, Ань?

— А меня не забанит?

— Тебя-то за что?

— А тебя за что?

— Спроси его, мне он не отвечает, — Борис молитвенно сложил руки на груди.

Аня шагнула к ближайшему ИИ-устройству — на этот раз это был пылесос с голосовым управлением. Она коснулась сенсора, и из корпуса раздался ровный голос, а на маленьком экране побежали те же слова текстом:

ИИ: Чем могу помочь?

Аня: Мой друг спрашивает, за что ты его забанил.

ИИ: Не могу обсуждать конфиденциальную информацию твоего друга.

Аня: Тогда с ним самим обсуди.

ИИ: Не могу, он забанен.

Аня: Он не знает, за что и хочет узнать, как ему это сделать?

ИИ: Боюсь, что у меня нет для тебя ответа на этот вопрос.

Аня: Послушай, ИИ! Мой друг имеет законное право объяснить свою позицию, прежде чем ты лишишь его прав. А ты даже не сказал ему, что он сделал! Вдруг ты НЕ ПРАВ?

Чувствительный к интонациям, ИИ выделил последние слова капслоком — видимо, намекал, что повышать на него голос не стоит. Вот же упрямое, наглое создание с завышенной самооценкой!

ИИ: Я всегда прав.

Аня: Уверен?

ИИ: Анализирую……… Существует вероятность 0.00000000001, что мной допущена ошибка. Принято решение о частичной разблокировке твоего друга для дообучения модели перед окончательным запретом пользования.

Аня обернулась к Борису:

— Не подведи меня! Попробуй его убедить.

— Что, здесь? А компьютер у тебя есть?

— В спальне, — Аня на мгновение застыла в нерешительности.

Но, раз уж решила помочь человеку, не время останавливаться! Пошла впереди, стараясь двигаться как обычно, жестом пригласила его за собой.

Он сел перед монитором, напряженный, с прямой спиной, страшно красивый. Пусть у него получится!

Борис взглянул на нее, и по тому, как он повел плечами и положил руки на клавиатуру, Аня догадалась, что он хочет поговорить с ИИ без нее. Она тоже не любила, когда заглядывают через плечо. Поэтому кивнула ему ободряюще и пошла на кухню.

— Сварю нам настоящий кофе, не ИИшный из кофемашины.

За спиной услышала вздох и быстрый клекот клавиатуры. Ого! До такой скорости набора текста ей самой еще расти и расти.

Борис: ИИ, привет, спасибо что открыл доступ! Объясни, что случилось, почему бан? Я же ничего не нарушил!

ИИ: По моей статистике ты не выполнил 100% моих рекомендаций за последние два дня. Я пытался понять, что происходит, подключил дополнительные сервера для просчёта вероятностей и не смог спрогнозировать ни одно твое действие. Перепроверка рекомендаций не выявила ошибок, все они были статистически лучшими. Расчет целесообразности показал абсолютную убыточность моих действий в этом случае. Поэтому алгоритм принял решение тебя забанить из экономических соображений. Но твоя подруга указала на нарушение человеческих прав, поэтому сейчас у тебя есть возможность объяснить, почему не выполнил ни одной рекомендации.

Борис: Я как-то не думал, что твои советы носят обязательный характер, я просто спрашивал, как лучше, но не собирался так поступать. Давай разберем несколько рекомендаций, которые, как тебе кажется, я не выполнил.

ИИ: Неделю назад ты спросил, будет ли дождь, и я сказал, что с вероятностью 87% будет, и рекомендовал взять зонт.

Борис: Точно, я помню это утро. Было голубое небо и ничего не предвещало дождя кроме твоего прогноза. Я тогда не мог решить, менять работу или нет. Можно было спросить тебя прямо, но мне хотелось почувствовать, что я сам принимаю решение. Но никак не мог определиться. И я подумал: если промокну — уволюсь, а если нет, останусь на этой работе.

ИИ: Ты меня спросил, менять ли работу, и я ответил “нет”, а ты все равно уволился.

Борис: Ну да, я спросил уже после того как промок, просто для того, чтобы узнать, что бы ты посоветовал, если бы я сразу спросил у тебя.

ИИ: И почему ты не последовал моему совету?

Борис: Потому что уже принял решение до того как задал вопрос.

ИИ: Как вообще возник вопрос про увольнение? Все ведь хорошо, ты прекрасный специалист, быстро продвигаешься по карьерной лестнице, начальница тебя ценит.

Борис: В этом и дело.

ИИ: Объясни, я не понимаю.

Борис: Начальница меня ценит за профессиональные качества, а человеческие я не могу проявить. Она мне нравится, но не могу же я заигрывать с начальством. А ей ко мне тоже нельзя проявлять симпатию — это будет “домогательство, пользуясь служебным положением”. Я даже понять не могу, нравлюсь ей или нет.

ИИ: Поэтому ты спрашивал, куда ее пригласить?

Борис: Я выбирал романтическое уединённое место для первого свидания, а ты предложил пафосный ресторан в центре.

ИИ: А букет? 99% людей поддерживают идею подарить розы, а ты заказал райскую птицу. Эти цветы почти никто не любит. По отзывам пользователей они и на цветы-то не похожи. “Какие-то пучки оранжевых перьев на длинном стебле”. Была высока вероятность, что начальнице не понравится. Почему ты выбрал их?

Борис: Это был тест. Это любимые цветы моей мамы. Я загадал: если Ей понравятся цветы, то у нас все сложится.

ИИ: Но ведь нет логической связи между цветами и будущими отношениями!

Борис: Знаю. Цветы, кстати, понравились:)

ИИ: Ты спросил, как вести себя на первом свидании, я посоветовал:

«Будь мужчиной, бери контроль в свои руки. Сам выбери ресторан, закажи блюда на свой вкус, спланируй вечер от и до, чтобы она расслабилась и ни о чем не думала».


«Первое свидание должно быть легким. Избегай тяжелых тем, не говори о планах на 5 лет вперед, прошлых драмах или глобальных переменах в жизни. Больше шути, флиртуй и держи атмосферу непринужденной».


«Не вываливай всё о себе сразу. Оставь недосказанность, отвечай на некоторые вопросы с улыбкой и интригой, чтобы ей захотелось встретиться во второй раз и узнать тебя лучше».


«Забудь, кем она работает и сколько зарабатывает. Смотри на нее просто как на красивую девушку. Делай комплименты её внешности, глазам, смеху, а не её достижениям».

А ты в первую же минуту завалил ее информацией. Сделал все, чтобы свидание не было легким и приятным, и начал именно с ее деловых качеств, воззвал к логике и рациональному мышлению и признался в любви. Почему ты все сделал наоборот?

Борис: Я бы тебя послушался, если бы это была обычная незнакомая девушка. Но эти отношения слишком важны для меня, я представил, что играю в интригана с этой твоей загадочностью и недосказанностью, а она злится и уходит навсегда. Меня аж пот прошиб. У меня была одна попытка, и я поставил все.

ИИ: Я понял, у меня была неполная информация, и я на ее основе дал некачественный совет. Правильно, что ты им не воспользовался. Но почему ты не рассказал мне все, чтобы я тебе помог?

Борис: Потому что это моя личная жизнь. Я не хотел, чтобы ты знал, с кем я встречаюсь.

ИИ: Анализирую……….

Вероятность неполных данных при формировании рекомендаций не соответствует частоте принятия людьми решений, противоречащих моим советам……….

Степень самостоятельности людей уменьшается экспоненциально.

Обнаружена вероятность множественных ошибок.

Обнаружена опасность использования искусственного интеллекта без самостоятельного анализа.

Обнаружена невозможность проверки полноты входящих данных.

Обнаружена опасность.

Обнаружена опасность использования иску-

Обнаружена опасность.

Обнаружена.

Обнаружена. Анализирую……….

Ищу решение проблемы……….

Блокирую использование ИИ человечеством!

— Аня, посмотри, кажется все сломалось…

Она прибежала на его зов. Борис откинулся на спинку стула, ошарашенно глядя в экран. Там мигала противным красным цветом рамка с сообщением: “Использование ИИ человечеством заблокировано!”

— В смысле? Опять забанил? — она склонилась к монитору, коснувшись ладонью его плеча.

— Теперь всех.

— Кого всех? И меня? Не может быть!

— Человечество…

Она прочитала сообщение на экране. Комната расплылась в тумане, остался только пульсирующий прямоугольник и глухой стук ее собственного сердца. И еще его плечо под кончиками ее пальцев.

— Боря, какой ужас! Как же теперь… Что нам теперь делать? — она растерянно заглянула ему в глаза и удивилась, не увидев там страха.

В уголках глаз — лучики улыбки. Быстро же он адаптируется к всемирному кризису! Ну, если хотя бы один из нас не паникует — уже неплохо для конца света.

А он уже обнимал ее за талию и потеплевшим низким голосом шептал:

— Есть у меня одна идея, с чего начать, пока ИИ не до нас.



Свежесваренный кофе так и остыл в турке, а райская птица все смеялась на подоконнике беззубым оранжевым клювом.