Невыносимая точность бытия

— Видел ‎последнюю‏ ‎«Миссия ‎невыполнима ‎— ‎6» ‎с‏ ‎Крузом?

— Да ‎полная‏ ‎хрень,‏ ‎такая ‎тупая ‎разводка‏ ‎для ‎детей.

— Почему?

— Ну,‏ ‎я ‎не ‎спецназовец, ‎могу‏ ‎ещё‏ ‎поверить, ‎что‏ ‎он ‎выныривает‏ ‎с ‎подлодки ‎на ‎ста ‎метрах‏ ‎глубины‏ ‎или ‎прыгает‏ ‎с ‎парашютом‏ ‎на ‎крышу ‎небоскрёба, ‎но ‎вот‏ ‎то,‏ ‎что‏ ‎он ‎флешку‏ ‎вставил ‎с‏ ‎первого ‎раза‏ ‎—‏ ‎это ‎точно‏ ‎туфта!

Всем ‎привет, ‎неточные ‎пользователи ‎Госуслуг!

Я‏ ‎был ‎на‏ ‎прошлой‏ ‎неделе ‎три ‎дня‏ ‎на ‎Банковском‏ ‎форуме ‎в ‎Сочи. ‎Это‏ ‎центральная‏ ‎тусовка ‎банковской‏ ‎отрасли, ‎на‏ ‎пленарной ‎сессии ‎выступают ‎председатель ‎ЦБ,‏ ‎президенты‏ ‎и ‎вице-президенты‏ ‎крупных ‎банков,‏ ‎главы ‎банковских ‎ассоциаций, ‎модерирует ‎сессию‏ ‎глава‏ ‎банковского‏ ‎комитета ‎Госдумы.

Я‏ ‎с ‎интересом‏ ‎послушал ‎Набиуллину,‏ ‎она,‏ ‎по-моему, ‎вообще‏ ‎на ‎голову ‎выше ‎окормляемой ‎ею‏ ‎отрасли ‎и‏ ‎представителей‏ ‎банков.

Да ‎и ‎секции‏ ‎на ‎форуме‏ ‎примерно ‎настолько ‎же ‎представительные.

Я‏ ‎не‏ ‎банкир, ‎хотя‏ ‎Крибрум ‎и‏ ‎Наносемантика ‎поставляют ‎услуги ‎и ‎банкам‏ ‎тоже.‏ ‎Но ‎меня‏ ‎туда ‎позвали,‏ ‎потому ‎что ‎была ‎сессия ‎про‏ ‎«технологии»,‏ ‎«ИИ»,‏ ‎прочее ‎«будущее». Подозреваю,‏ ‎что ‎аниматором,‏ ‎«поперечником».

Жену ‎мою‏ ‎позвали‏ ‎туда, ‎напротив,‏ ‎вести ‎секцию ‎про ‎настоящее технологий, ‎то‏ ‎есть ‎про‏ ‎мошенничество,‏ ‎«перевод ‎денег ‎без‏ ‎согласия ‎клиента»‏ ‎(это ‎такой ‎эвфемизм ‎банковский),‏ ‎кражу‏ ‎сотен ‎миллиардов.‏ ‎Расскажу ‎потом‏ ‎подробнее.

Ну, ‎хоть ‎в ‎море ‎искупались‏ ‎пару‏ ‎раз. ‎Там,‏ ‎кстати, ‎если‏ ‎не ‎думать ‎про ‎характерные ‎для‏ ‎Сочей‏ ‎гальку‏ ‎и ‎камни,‏ ‎воздух ‎+28,‏ ‎вода ‎+23,‏ ‎до‏ ‎сих ‎пор.‏ ‎Не ‎завидуйте.

Сейчас ‎хочется ‎коснуться ‎другого.‏ ‎На ‎секции‏ ‎про‏ ‎будущее ‎технологий ‎было‏ ‎сказано: ‎«Между‏ ‎прочим, ‎банковская ‎отрасль ‎—‏ ‎единственная,‏ ‎где ‎ИИ‏ ‎уже ‎принимает‏ ‎решения». Докладчик ‎сказал ‎это ‎с ‎неподдельным‏ ‎энтузиазмом,‏ ‎он ‎считает‏ ‎это ‎достижением.

Принятие‏ ‎ИИ ‎автономных ‎решений ‎о ‎людях

Я‏ ‎уже‏ ‎рассказывал‏ ‎тут про ‎типовую‏ ‎ситуацию: ‎

Заполняет‏ ‎потенциальный ‎заёмщик‏ ‎(программист‏ ‎ИИ, ‎между‏ ‎прочим) ‎два ‎часа ‎форму ‎заявки‏ ‎на ‎кредит‏ ‎в‏ ‎одном ‎самом ‎крупном‏ ‎банке, ‎нажимает‏ ‎«Отправить», ‎ему ‎отказывают ‎через‏ ‎45‏ ‎секунд. ‎Кто‏ ‎отказал? ‎Правильно.

Очевидно,‏ ‎докладчик ‎имел ‎в ‎виде ‎именно‏ ‎это‏ ‎«принятие ‎решений‏ ‎ИИ». ‎Отличное‏ ‎принятие: ‎ни ‎понять ‎причину ‎отказа,‏ ‎ни‏ ‎оспорить‏ ‎— ‎просто‏ ‎негде. ‎А‏ ‎в ‎БКИ‏ ‎уже‏ ‎поставили ‎чёрную‏ ‎метку ‎— ‎ведь ‎самый ‎крупный‏ ‎банк ‎уже‏ ‎отказал‏ ‎этому ‎подозрительному ‎заёмщику.

Ну,‏ ‎а ‎штрафы‏ ‎же ‎за ‎превышение ‎скорости‏ ‎или‏ ‎неправильную ‎парковку‏ ‎берут ‎ведь‏ ‎автоматически?

Фактически ‎— ‎да, ‎но ‎формально‏ ‎—‏ ‎нет. ‎Там‏ ‎обычно ‎в‏ ‎уведомлении ‎о ‎штрафе ‎внизу ‎есть‏ ‎дежурная‏ ‎фраза‏ ‎«Капитан ‎полиции‏ ‎рассмотрел ‎данные‏ ‎фотофиксации…» ‎и‏ ‎подпись‏ ‎капитана. ‎ГАИшники‏ ‎хотя ‎бы ‎стараются ‎пока соблюсти ‎приличия‏ ‎и ‎букву‏ ‎закона.

Между‏ ‎тем, ‎ровно ‎про‏ ‎это ‎же‏ ‎у ‎меня ‎была ‎жаркая‏ ‎перепалка‏ ‎на ‎секции‏ ‎на ‎ПМЭФ,‏ ‎посвящённой ‎— ‎сюрприз ‎— ‎опять‏ ‎же‏ ‎ИИ ‎и‏ ‎цифровизации. ‎Я‏ ‎там ‎препирался ‎с ‎места ‎(они‏ ‎слова‏ ‎залу‏ ‎не ‎давали,‏ ‎пришлось ‎взять)‏ ‎с ‎губернатором‏ ‎Московской‏ ‎области ‎Воробьёвым,‏ ‎который ‎пытается ‎ввести ‎в ‎МО‏ ‎автоматические ‎штрафы‏ ‎для‏ ‎людей, ‎которых распознали ‎по‏ ‎лицу — за ‎переход‏ ‎ж/д ‎путей ‎в ‎неположенном‏ ‎месте,‏ ‎за ‎выбрасывание‏ ‎мусора ‎не‏ ‎в ‎свой ‎контейнер ‎и ‎т.‏ ‎п.

Были‏ ‎там ‎ещё‏ ‎Артемий ‎Лебедев,‏ ‎Юра ‎Максимов ‎из ‎«Позитив ‎Текнолоджиз»‏ ‎и‏ ‎кто-то‏ ‎ещё. ‎Все‏ ‎такое ‎позитивные.

Общий‏ ‎запев ‎был,‏ ‎как‏ ‎обычно ‎«удобно,‏ ‎удобно, ‎удобно, ‎инновационно» и ‎— ‎внимание!‏ ‎— ‎«да‏ ‎мы‏ ‎так ‎спасаем ‎жизни». Распознавание‏ ‎лиц ‎и‏ ‎штрафы ‎же ‎удержат ‎граждан‏ ‎от‏ ‎перебегания ‎спьяну‏ ‎перед ‎близко‏ ‎идущим ‎поездом. ‎Да? ‎Ведь ‎да?

Но‏ ‎я‏ ‎не ‎про‏ ‎это ‎—‏ ‎желающие ‎могут ‎просто ‎посмотреть ‎видео‏ ‎секции.‏ ‎Его‏ ‎полно ‎в‏ ‎сети. ‎Вроде‏ ‎есть ‎вот‏ ‎тут (я‏ ‎сам ‎не‏ ‎смотрел, ‎мне ‎моя ‎рожа ‎не‏ ‎нравится).

Я ‎просто‏ ‎хочу‏ ‎подчеркнуть, ‎что ‎идея‏ ‎передать ‎ИИ‏ ‎право ‎принимать ‎автономные ‎решения‏ ‎о‏ ‎людях ‎—‏ ‎находит ‎всё‏ ‎больше ‎сторонников, ‎проникает ‎в ‎головы‏ ‎масс‏ ‎чиновников ‎и‏ ‎айтишников. ‎И‏ ‎очень ‎им ‎нравится.

Я ‎уже ‎писал‏ ‎о‏ ‎том,‏ ‎что ‎это‏ ‎не ‎передача‏ ‎ответственности ‎ИИ‏ ‎— ИИ‏ ‎не ‎может‏ ‎нести ‎никакой ‎ответственности ‎(и ‎никаких‏ ‎законов ‎об‏ ‎ответственности‏ ‎разработчиков ‎или ‎эксплуатантов‏ ‎ИИ ‎—‏ ‎тоже ‎нет). ‎Это ‎снятие‏ ‎ответственности с‏ ‎людей, ‎которые‏ ‎её ‎раньше‏ ‎несли.

Это ‎довольно ‎очевидно. ‎А ‎у‏ ‎этих‏ ‎людей ‎сбрасывание‏ ‎бремени ‎ответственности‏  ‎— ‎вызывает ‎взрыв ‎энергии ‎и‏ ‎эндорфинов.‏ ‎Такова‏ ‎сила ‎отказа‏ ‎от ‎ответственности.

Но‏ ‎эту ‎тему‏ ‎стоит‏ ‎продолжить ‎в‏ ‎другой ‎раз.

А ‎сейчас ‎стоит ‎поговорить‏ ‎об ‎алмазной‏  ‎точности‏ ‎этих ‎решений.

Псевдоточность

Системы ‎цифровизации,‏ ‎основанные ‎на‏ ‎ИИ ‎(или ‎не ‎основанные)‏ ‎обладают‏ ‎в ‎первую‏ ‎очередь ‎крайней‏ ‎«точностью». ‎Своеобразной: ‎они ‎требуют ‎точного‏ ‎ввода‏ ‎данных, ‎заполнения‏ ‎формы ‎—‏ ‎в ‎точности ‎так, ‎как ‎потребовал‏ ‎программист.

Я‏ ‎думаю,‏ ‎многие ‎из‏ ‎читателей ‎чертыхались,‏ ‎когда ‎те‏ ‎или‏ ‎иные ‎сайты‏ ‎Госуслуг, ‎банков ‎отрыгивали ‎введённые ‎формы‏ ‎с ‎сообщением:‏ ‎«это‏ ‎поле ‎обязательно ‎к‏ ‎заполнению», ‎«введите‏ ‎номер», ‎«введите ‎срок ‎действия‏ ‎карты»,‏ ‎«загрузите ‎скан‏ ‎документа», ‎«формат‏ ‎не ‎распознан» ‎и ‎т. ‎п.

При‏ ‎этом,‏ ‎естественно, ‎алгоритмы‏ ‎распознавания ‎номеров,‏ ‎паспортных ‎данных ‎и ‎прочего ‎непрерывно‏ ‎лажают‏ ‎—‏ ‎то ‎не‏ ‎понимают ‎8‏ ‎вместо ‎+7,‏ ‎то‏ ‎обрезают ‎введённое‏ ‎произвольным ‎образом, ‎то ‎неявно ‎требуют‏ ‎только ‎одного‏ ‎неочевидного‏ ‎формата ‎ввода ‎без‏ ‎пояснений ‎и‏ ‎предупреждений ‎и ‎т. ‎п.

То‏ ‎есть‏ ‎работают ‎шумно,‏ ‎коряво ‎—‏ ‎но ‎зато ‎требуют ‎точно подстраиваться ‎под‏ ‎их‏ ‎работу.

Например, ‎прошлым‏ ‎летом ‎моя‏ ‎дочь ‎поступала ‎в ‎университет. ‎Регистрироваться‏ ‎в‏ ‎приёмной‏ ‎комиссии ‎надо‏ ‎было ‎почему-то‏ ‎обязательно ‎в‏ ‎онлайне.‏ ‎Экономия ‎персонала‏ ‎и ‎современно-инновационно. ‎И ‎документы ‎—‏ ‎тоже ‎загружать‏ ‎в‏ ‎онлайне, ‎в ‎виде‏ ‎сканов. ‎

Это,‏ ‎кстати, ‎нарушение ‎прав ‎граждан,‏ ‎вообще-то.

Но‏ ‎при ‎этом‏ ‎загруженные ‎документы‏ ‎система ‎не ‎принимала. ‎Потому ‎что‏ ‎она‏ ‎требовала ‎загружать‏ ‎их ‎в‏ ‎вертикальной ‎ориентации ‎— ‎а ‎сама‏ ‎их‏ ‎упорно‏ ‎автоматически ‎переворачивала‏ ‎в ‎альбомную‏ ‎ориентацию ‎и‏ ‎потом‏ ‎отказывалась ‎принимать.‏ ‎

Я ‎посчитал ‎— ‎мы ‎с‏ ‎дочкой ‎сделали‏ ‎25‏ ‎попыток. ‎А ‎время‏ ‎уходило, ‎оставалось‏ ‎сначала ‎два ‎дня, ‎потом‏ ‎день,‏ ‎потом ‎полдня‏ ‎до ‎срока‏ ‎подачи!

Но ‎я ‎хотя ‎бы ‎понимаю,‏ ‎как‏ ‎думает ‎программист,‏ ‎поэтому ‎я‏ ‎последовательным ‎обрезанием ‎полей ‎сканов ‎и‏ ‎изменением‏ ‎форм-фактора‏ ‎скана ‎заставил‏ ‎систему ‎перестать‏ ‎переворачивать. ‎

А‏ ‎что‏ ‎делали ‎неопытные‏ ‎юные ‎абитуриенты? ‎Как ‎они ‎пробились?‏ ‎А ‎может‏ ‎быть,‏ ‎кто-то ‎и ‎не‏ ‎пробился. ‎Техподдержка,‏ ‎естественно, ‎никак ‎не ‎помогала.‏ ‎«Идите‏ ‎на ‎сайт,‏ ‎там ‎всё‏ ‎работает».

Это ‎вот ‎ключевое: ‎система ‎требует‏ ‎от‏ ‎человека ‎исключительно‏ ‎точного ‎поведения — при‏ ‎этом ‎она ‎неполноценна, ‎неполна ‎и‏ ‎неточна‏ ‎сама.‏ ‎Не ‎выносит‏ ‎отличия ‎вариантов,‏ ‎не ‎имеет‏ ‎люфтов.

А‏ ‎человеки ‎всегда‏ ‎создают ‎облако ‎вариантов.

Ещё ‎одна ‎история,‏ ‎которую ‎мне‏ ‎рассказали‏ ‎недавно:

Женщина ‎садится ‎в‏ ‎поезд ‎из‏ ‎Ростова. ‎Показывает ‎проводнику ‎ксерокопию‏ ‎паспорта.‏ ‎Проводник ‎не‏ ‎пускает: ‎«не‏ ‎положено, ‎нужен ‎оригинал».

— Да ‎я ‎из-под‏ ‎Курска,‏ ‎сгорели ‎все‏ ‎документы. ‎Хохлы‏ ‎деревню ‎захватили.

— А, ‎тогда ‎проходите, ‎—‏ ‎говорит‏ ‎проводник.

У‏ ‎проводника ‎есть‏ ‎человеческий ‎«люфт»,‏ ‎он ‎понимает‏ ‎жизнь‏ ‎и ‎её‏ ‎непростое ‎устройство, ‎не ‎прямоугольное. ‎Он‏ ‎— ‎человек.‏ ‎В‏ ‎этот ‎момент ‎он‏ ‎принял ‎этическое‏ ‎решение ‎в ‎ситуации ‎этического‏ ‎выбора:‏ ‎взял ‎на‏ ‎себя ‎ответственность‏ ‎(возможно, ‎небольшую), ‎но ‎помог ‎человеку‏ ‎против‏ ‎формальных ‎правил.

Вряд‏ ‎ли ‎это‏ ‎была ‎агентша ‎СБУ, ‎хотя ‎это‏ ‎всё‏ ‎равно‏ ‎как ‎бы‏ ‎нарушение ‎безопасности‏ ‎(хотя ‎сам‏ ‎принцип‏ ‎проезда ‎по‏ ‎паспорту ‎можно ‎трактовать ‎по-разному ‎—‏ ‎так ‎уж‏ ‎ли‏ ‎он ‎полезен ‎и‏ ‎безопасен).

Возможно, ‎если‏ ‎бы ‎на ‎проводника ‎наехал‏ ‎потом‏ ‎начальник ‎поезда,‏ ‎или ‎на‏ ‎начальника ‎поезда ‎наехали ‎бы ‎его‏ ‎начальники,‏ ‎менты, ‎ФСБ‏ ‎— ‎аргумент‏ ‎про ‎сгоревший ‎дом ‎и ‎на‏ ‎них‏ ‎бы‏ ‎подействовал. ‎Они‏ ‎же ‎тоже‏ ‎люди, ‎даже‏ ‎если‏ ‎это ‎не‏ ‎всегда ‎заметно.

А ‎вот ‎что ‎бы‏ ‎делала ‎эта‏ ‎погорелица,‏ ‎если ‎бы ‎документы‏ ‎на ‎входе‏ ‎проверял ‎ИИ? ‎В ‎поезд‏ ‎бы‏ ‎точно ‎не‏ ‎села. ‎Болталась‏ ‎бы ‎многие ‎недели ‎в ‎Ростове,‏ ‎пытаясь‏ ‎восстановить ‎документы,‏ ‎без ‎жилья‏ ‎и ‎денег? ‎Так ‎ей ‎бы‏ ‎ИИ‏ ‎и‏ ‎в ‎МФЦ‏ ‎тоже ‎не‏ ‎дал ‎бы‏ ‎ничего‏ ‎восстановить.

А ‎ведь‏ ‎с ‎текущим ‎триумфальным ‎шествием ‎ИИ‏ ‎и ‎цифровизации‏ ‎до‏ ‎окончательного ‎оцифрошизения ‎РЖД‏ ‎— ‎недолго,‏ ‎похоже. ‎Будут ‎пускать ‎в‏ ‎поезд‏ ‎только ‎по‏ ‎биометрии ‎лица‏ ‎или ‎автоматическому ‎сканированию ‎паспорта. ‎И‏ ‎с‏ ‎ксероксом ‎не‏ ‎пустят.

Восстановление ‎или‏ ‎замена ‎документов ‎из ‎ДР ‎и‏ ‎ЛНР,‏ ‎русских‏ ‎мигрантов ‎из‏ ‎Прибалтики ‎—‏ ‎вообще ‎квест‏ ‎ещё‏ ‎тот, ‎как‏ ‎мы ‎обсуждали ‎в ‎прошлом ‎посте.

И‏ ‎там ‎Госуслуги,‏ ‎как‏ ‎правило, ‎ломаются ‎—‏ ‎не ‎дают‏ ‎прописать ‎в ‎квартире, ‎например,‏ ‎без‏ ‎военного ‎билета,‏ ‎а ‎старый‏ ‎военник ‎не ‎того ‎формата ‎и‏ ‎юрисдикции‏ ‎— ‎не‏ ‎признают.

Работают ‎ли‏ ‎там ‎за ‎фасадом ‎цифрового ‎сервиса‏ ‎тупые‏ ‎и‏ ‎равнодушные ‎люди‏ ‎или ‎это‏ ‎чисто ‎ИИ-распознавалка‏ ‎дурит‏ ‎— ‎не‏ ‎так ‎уже ‎важно.

Важно, ‎что ‎требуют‏ ‎точного исполнения ‎узких,‏ ‎плохо‏ ‎выпиленных ‎правил, ‎безукоризненного прохождения‏ ‎по ‎каким-то‏ ‎прописанным ‎каким-то ‎анонимным ‎программистом‏ ‎путям,‏ ‎где ‎шаг‏ ‎в ‎сторону‏ ‎считается ‎за ‎побег.

Психология ‎отношений ‎чиновника‏ ‎и‏ ‎его ‎программиста

Очевидно,‏ ‎сервисы ‎для‏ ‎граждан ‎изначально ‎делаются ‎по ‎ТЗ.

ТЗ‏ ‎эти‏ ‎часто‏ ‎описывают ‎идеального‏ ‎пользователя. ‎Если‏ ‎ТЗ ‎исполнено‏ ‎по‏ ‎букве ‎—‏ ‎их ‎выкатывают ‎«в ‎продакшн».

При ‎этом‏ ‎логика ‎программиста‏ ‎очень‏ ‎часто ‎не ‎соответствует‏ ‎реальной ‎жизни‏ ‎и ‎поведению ‎реальных ‎пользователей,‏ ‎но‏ ‎как ‎он‏ ‎об ‎этом‏ ‎узнает?

Если ‎пробиться ‎через ‎услугу ‎не‏ ‎получается,‏ ‎а ‎пожаловаться‏ ‎можно ‎только‏ ‎чатботу ‎— ‎то ‎как ‎сведения‏ ‎о‏ ‎реальных‏ ‎косяках ‎дойдут‏ ‎для ‎разработчиков?

Через‏ ‎чиновника? ‎Так‏ ‎он‏ ‎же ‎реагирует‏ ‎только ‎на ‎пинки ‎начальства ‎или‏ ‎на ‎медийную‏ ‎шумиху.

Я‏ ‎не ‎раз ‎слышал‏ ‎от ‎жертв‏ ‎онлайновых ‎сервисов: ‎ну, ‎через‏ ‎сайт‏ ‎ничего ‎сделать‏ ‎не ‎удаётся,‏ ‎поеду ‎в ‎понедельник ‎лично ‎разговаривать‏ ‎(Госуслуги,‏ ‎МОЭК, ‎мусорные‏ ‎упыри-мытари ‎и‏ ‎тому ‎подобное).

Часто ‎это ‎поездка ‎из‏ ‎области‏ ‎куда-то‏ ‎в ‎районный‏ ‎город ‎километров‏ ‎за ‎сорок‏ ‎—‏ ‎но ‎там‏ ‎хоть ‎поговорить ‎можно, ‎объяснить ‎ситуацию.

Сайт‏ ‎или ‎сервис‏ ‎после‏ ‎такой ‎поездки, ‎конечно,‏ ‎не ‎меняется‏ ‎— ‎никто ‎по ‎итогу‏ ‎косяка‏ ‎сервиса ‎не‏ ‎добавляет ‎вариантов,‏ ‎гибкости, ‎нечёткости. ‎Я ‎подозреваю, ‎что‏ ‎в‏ ‎большинстве ‎случаев‏ ‎просто ‎нет‏ ‎никакого ‎информационного ‎канала ‎от ‎тех,‏ ‎кто‏ ‎разговаривает‏ ‎с ‎ушибленными‏ ‎онлайном ‎гражданами,‏ ‎к ‎программистам‏ ‎системы.

Более‏ ‎того, ‎не‏ ‎в ‎интересах ‎чиновника ‎как-то ‎исправлять‏ ‎ситуацию ‎с‏ ‎негодным‏ ‎сервисом. ‎Почему? ‎Потому‏ ‎что ‎основное‏ ‎уже ‎произошло: ‎ответственность ‎уже‏ ‎снята.

Целевая‏ ‎функция: ‎ИТ-прослойка

Основной‏ ‎смысл ‎цифровизации,‏ ‎по ‎сути ‎— ‎создание ‎ИТ-прослойки‏ ‎между‏ ‎чиновником ‎и‏ ‎населением, которая ‎позволяет‏ ‎снять ‎ответственность ‎и ‎вообще ‎не‏ ‎общаться‏ ‎с‏ ‎быдлом.

Чатбот ‎не‏ ‎помогает ‎гражданам,‏ ‎а ‎отгоняет‏ ‎их‏ ‎от ‎оператора‏ ‎контакт-центра, ‎чтобы ‎снизить ‎нагрузку. ‎На‏ ‎банковском ‎форуме‏ ‎прямо‏ ‎рассказывали ‎об ‎успехах:‏ ‎в ‎три‏ ‎раза ‎снизили ‎расходы ‎на‏ ‎контакт-центр!‏ ‎При ‎этом‏ ‎ни ‎слова‏ ‎о ‎качестве ‎самой ‎услуги ‎и‏ ‎удовлетворённости‏ ‎клиентов. ‎Ну‏ ‎и ‎в‏ ‎самом ‎деле, ‎если ‎клиента ‎отогнали‏ ‎—‏ ‎его‏ ‎уже ‎и‏ ‎не ‎спросить‏ ‎о ‎качестве.

Это‏ ‎очень‏ ‎облегчающая ‎функция‏ ‎ИИ: ‎даже ‎если ‎что-то ‎работает‏ ‎не ‎так,‏ ‎население‏ ‎недовольно ‎— ‎то‏ ‎виноват ‎не‏ ‎чиновник, ‎а ‎все ‎прочие.‏ ‎Программисты,‏ ‎эксплуатанты, ‎хакеры.‏ ‎ИИ ‎барахлит,‏ ‎ну ‎да, ‎мы ‎же ‎знаем,‏ ‎что‏ ‎ИТ ‎барахлят‏ ‎часто. ‎Все‏ ‎к ‎этому ‎привыкли, ‎понимают. ‎Компьютер‏ ‎завис‏ ‎—‏ ‎ну, ‎понятно.

Вы‏ ‎наверняка ‎не‏ ‎раз ‎слышали‏ ‎в‏ ‎МФЦ ‎«ой,‏ ‎сейчас ‎что-то ‎система ‎с ‎утра‏ ‎глючит, ‎не‏ ‎могу‏ ‎пока ‎документ ‎подгрузить,‏ ‎подождём ‎перезагрузки,‏ ‎щас, ‎щас»,  хотя ‎сами ‎девочки‏ ‎в‏ ‎МФЦ ‎—‏ ‎хорошие, ‎вежливые,‏ ‎старательные ‎и ‎эффективные. ‎Потому ‎что‏ ‎люди.

А‏ ‎зачем ‎это‏ ‎всё ‎делается?‏ ‎Мотивация ‎какая?

Робот-чиновник

Программист ‎Госуслуг ‎ставит ‎на‏ ‎тумбочке‏ ‎у‏ ‎кровати ‎два‏ ‎стакана ‎—‏ ‎один ‎полный‏ ‎воды,‏ ‎другой ‎пустой.‏ ‎С ‎водой ‎— ‎попить, ‎если‏ ‎ночью ‎захочется,‏ ‎пустой‏ ‎— ‎на ‎случай,‏ ‎если ‎не‏ ‎захочется.

Министр ‎связи ‎Шадаев ‎не‏ ‎раз‏ ‎говорил ‎на‏ ‎совещаниях ‎и‏ ‎в ‎частных ‎беседам: ‎нам ‎нужен‏ ‎чиновник-робот.‏ ‎А ‎ещё‏ ‎лучше ‎робот-чиновник.‏ ‎Это ‎их ‎целевая ‎функция.

Цифровизаторам ‎кажется,‏ ‎что‏ ‎ИИ‏ ‎и ‎ИТ-сервисы‏ ‎будут ‎прекрасно‏ ‎безлюдно ‎обслуживать‏ ‎население,‏ ‎которое, ‎ну‏ ‎прямо ‎надо ‎сказать, ‎поднадоело ‎уже.

Проблема‏ ‎тут ‎даже‏ ‎не‏ ‎в ‎том, ‎что‏ ‎тот ‎уродливый‏ ‎ИИ, ‎который ‎разрабатывают ‎наши‏ ‎отечественные‏ ‎имитаторы, ‎галлюцинирует‏ ‎и ‎несёт‏ ‎чушь ‎(я ‎писал ‎тут ‎уже‏ ‎про‏ ‎орех вместо ‎гайки,‏ ‎рисуемый ‎Кандинским,‏ ‎выдуманные ‎бредогенератором ‎безумные ‎истории, ‎и‏ ‎тому‏ ‎подобную‏ ‎генерируемую ‎пургу,‏ ‎как ‎ментовская‏ ‎распознавалка  ‎путает‏ ‎лица‏ ‎с ‎порогом‏ ‎70%, ‎как ‎распознавалка ‎в ‎метро‏ ‎долго ‎думает,‏ ‎так‏ ‎что ‎в ‎турникет‏ ‎пробегают ‎двое‏ ‎и ‎т. ‎п.).

Проблема ‎именно‏ ‎в‏ ‎том, ‎что‏ ‎ИИ ‎безжалостен,‏ ‎требует ‎от ‎хомо ‎сапиенсов, ‎кожаных‏ ‎мешков,‏ ‎точного ‎поведения, а‏ ‎стандарты ‎этого‏ ‎точного ‎поведения ‎задаёт ‎неизвестно ‎кто,‏ ‎с‏ ‎этикой‏ ‎и ‎логикой‏ ‎аутичного ‎программиста,‏ ‎техноварвара, ‎отделённого‏ ‎от‏ ‎реальной ‎жизни‏ ‎многими ‎звеньями ‎тендера, ‎заказа, ‎ТЗ,‏ ‎приёмки, ‎откатов.

С‏ ‎человеком‏ ‎можно ‎поговорить. ‎С‏ ‎ИИ ‎нельзя.

Эта‏ ‎ситуация ‎в ‎целом ‎описывается‏ ‎общей‏ ‎аналогией: ‎скоро‏ ‎ИИ ‎будет‏ ‎штрафовать ‎водителя ‎за ‎заезд ‎колесом‏ ‎на‏ ‎сплошную ‎на‏ ‎два ‎сантиметра.‏ ‎Не, ‎ну, ‎а ‎чо, ‎это‏ ‎же‏ ‎нарушение?‏ ‎Камера ‎посмотрит,‏ ‎заметит, ‎выпишет‏ ‎штраф. ‎Если‏ ‎сразу‏ ‎заплатить ‎—‏ ‎скидка ‎50%. ‎Отлично ‎же. ‎Мечта‏ ‎чиновника.

Сейчас ‎пока‏ ‎ещё‏ ‎люди ‎принимают ‎законы‏ ‎и ‎подзаконные‏ ‎акты ‎о ‎штрафах. ‎Там‏ ‎есть‏ ‎люфты. Допустим, ‎на‏ ‎данном ‎участке‏ ‎ограничение ‎90, ‎а ‎общеизвестный ‎люфт‏ ‎—‏ ‎20, ‎так‏ ‎что ‎за‏ ‎105 ‎км/ч ‎не ‎оштрафуют. ‎Этот‏ ‎люфт‏ ‎много‏ ‎раз ‎пытались‏ ‎отменить ‎или‏ ‎уменьшить ‎поборники‏ ‎пуристического‏ ‎зажима ‎нарушителей,‏ ‎адепты ‎Железной ‎руки.

Пока ‎не ‎вышло.‏ ‎Но ‎это‏ ‎сейчас‏ ‎не ‎вышло. ‎А‏ ‎вот ‎с‏ ‎ИИ ‎всё ‎ведь ‎будет‏ ‎круче.

Сейчас‏ ‎и ‎так‏ ‎постоянно ‎идут‏ ‎разговоры ‎о ‎вычислении ‎«средней ‎скорости‏ ‎по‏ ‎маршруту», ‎штрафовании‏ ‎«за ‎опасное‏ ‎поведение», ‎распознанное ‎камерой и ‎т. ‎п.‏ ‎Всё‏ ‎конечно,‏ ‎автоматически, ‎это‏ ‎же ‎так‏ ‎круто, ‎да.

А‏ ‎кто‏ ‎задаст ‎критерии‏ ‎«опасного ‎поведения»? ‎Безжалостный ‎ИИ, ‎в‏ ‎который ‎заложат‏ ‎правила‏ ‎аутичные ‎и ‎асоциальные‏ ‎программисты ‎(у‏ ‎которых ‎даже ‎может ‎не‏ ‎быть‏ ‎собственного ‎автомобиля‏ ‎и ‎опыта‏ ‎вождения).

Но. ‎Штрафов ‎будет ‎больше, ‎хорошо‏ ‎же.‏ ‎Губернатор ‎Воробьёв‏ ‎будет ‎доволен.

Возражение,‏ ‎что ‎это ‎страшилки, ‎что ‎ИИ‏ ‎отладят‏ ‎в‏ ‎конце ‎концов,‏ ‎разбивается ‎об‏ ‎истории ‎Амазона‏ ‎и‏ ‎других ‎ИТ-гигантов,‏ ‎где ‎сотрудники ‎суперкомпьютеризированных ‎супермегагигаскладов ‎Амазона,‏ ‎управляемые ‎всеведущим‏ ‎ИИ,‏ ‎писают ‎под ‎камерами‏ ‎в ‎пустые‏ ‎пластиковые ‎бутылки ‎прямо ‎на‏  ‎рабочем‏ ‎месте, ‎потому‏ ‎что ‎ИИ‏ ‎штрафует ‎их ‎— ‎автоматически ‎—‏ ‎за‏ ‎слишком ‎частые‏ ‎походы ‎в‏ ‎туалет. ‎Слишком ‎частые ‎— ‎по‏ ‎мнению‏ ‎начальства‏ ‎и ‎его‏ ‎программистов, ‎они‏ ‎же ‎лучше‏ ‎знают,‏ ‎сколько ‎раз‏ ‎в ‎день ‎упаковщику ‎надо ‎мочиться.

То‏ ‎есть ‎это‏ ‎не‏ ‎вопрос ‎отладки. ‎Это‏ ‎вопрос ‎того,‏ ‎что ‎ИИ ‎удобно использовать ‎как‏ ‎электронный‏ ‎хлыст, ‎которым‏ ‎погонять ‎хуманов.

У‏ ‎ИИ ‎люфтов ‎нет, ‎с ‎ним‏ ‎нельзя‏ ‎поговорить ‎и‏ ‎договориться. Идиоты ‎цифровизаторы‏ ‎считают, ‎что ‎это ‎очень ‎хорошо.‏ ‎Ведь‏ ‎ИИ‏ ‎не ‎берёт‏ ‎взяток. ‎Никакой‏ ‎коррупции. ‎Никаких‏ ‎отклонений,‏ ‎кумовства ‎и‏ ‎семейственности! ‎Всё ‎чётко! ‎Жёсткие ‎правила!

И‏ ‎он ‎научит‏ ‎человека‏ ‎не ‎делать ‎ошибок и‏ ‎жить ‎правильно!

То‏ ‎есть ‎речь ‎от ‎том,‏ ‎чтобы‏ ‎расчеловечить ‎человека.‏ ‎Ведь ‎делать‏ ‎ошибки ‎— ‎это ‎не ‎просто‏ ‎встроенная‏ ‎особенность ‎человека,‏ ‎это ‎его‏ ‎право ‎и ‎возможность.

Нас ‎в ‎итоге‏ ‎ждёт‏ ‎что-то‏ ‎вроде ‎ошейника‏ ‎с ‎током,‏ ‎который ‎надевают‏ ‎на‏ ‎плохо ‎обученных‏ ‎и ‎импульсивных ‎собак ‎породы ‎джек-рассел,‏ ‎чтобы ‎не‏ ‎убегали.

Я‏ ‎пока ‎не ‎вижу‏ ‎просвета. ‎Цифровизаторы‏ ‎бодро ‎едут ‎на ‎этом‏ ‎нарративе.

А‏ ‎дальше ‎нас,‏ ‎возможно, ‎ждёт‏ ‎следующая ‎триумфальная ‎ступень ‎развития ‎ИИ‏ ‎—‏ ‎передача ‎ИИ‏ ‎возможности  ‎самостоятельно‏ ‎расширять ‎пространство ‎принимаемых ‎решений. ‎На‏ ‎«основе‏ ‎самообучения».

То‏ ‎есть ‎Страж-птица‏ ‎по ‎Шекли.