logo
394
читателя
Что по осям  Проект "Что по осям" о том, что там на самом деле по осям.
О проекте Просмотр Уровни подписки Фильтры Статистика Обновления проекта Поделиться
Все проекты
О проекте
Не вполне регулярные рассуждения о событиях и людях в мире технологий, медий и пропаганды, об информационной войне, о мотивациях и отмазках политиков и технарей, о цифровизации и луддитах, о евангелистах Бога технологий, об искусственном и естественном интеллекте, а также о критическом мышлении и том, что там на самом деле по осям.
Публикации, доступные бесплатно
Уровни подписки
Читатель 600₽ месяц 5 760₽ год
(-20%)
При подписке на год для вас действует 20% скидка. 20% основная скидка и 0% доп. скидка за ваш уровень на проекте Что по осям

Несколько публикаций в неделю по темам технологий, информационной войны, медийных событий и т.п. Чтение публикаций в электронной почте и на сайте Спонсора (без возможности комментировать).

Оформить подписку
Комментатор 1 200₽ месяц 11 520₽ год
(-20%)
При подписке на год для вас действует 20% скидка. 20% основная скидка и 0% доп. скидка за ваш уровень на проекте Что по осям

Возможность задавать вопросы автору и комментировать посты. Автор постарается максимально быстро и полно отвечать и комментировать, в том числе в следующих постах (но очень подробные ответы и долгие дискуссии не гарантируются, это зависит от темы).

Оформить подписку
Фильтры
Пн
Вт
Ср
Чт
Пт
Сб
Вс
28
29
30
31
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
1
Статистика
394 подписчика
Обновления проекта
Контакты
Поделиться
Читать: 16+ мин
logo Что по осям

Реплика. Псевдоэксперты

Доступно подписчикам уровня
«Читатель»
Подписаться за 600₽ в месяц

Псевдоэксперт. Блестящий, знающий, убедительный, знающий известных людей, точные детали, термины, тайные пружины - и несущий абсолютную лажу. Подиумное сознание. В чём корысть? Продажа слов. Инфоцыгане. Как распознать? Как не повестись?

Читать: 17+ мин
logo Что по осям

Лытдыбр тревел-блогира. Коротко ещё про Китай

Доступно подписчикам уровня
«Читатель»
Подписаться за 600₽ в месяц

Новые впечатления о Китае. Как продать инфобез похоронных дел мастеру? Китайцы сытые, расслабленные, весёлые. Всё украшено по самое не хочу. Едят всякое странное. Фотоотчёт тревел-блогера.

Читать: 26+ мин
logo Что по осям

Опять про биометрию. ЕБС: беспредел за пределами

Доступно подписчикам уровня
«Читатель»
Подписаться за 600₽ в месяц

Единая биометрическая система - правильное дело. Но за её пределами - вакханалия правонарушений с персональными данными.

Читать: 12+ мин
logo Что по осям

Всё-таки про Трампа. Байки, трезвый взгляд и грустные ожидания

Доступно подписчикам уровня
«Читатель»
Подписаться за 600₽ в месяц

Данила Козырев - наш? Все теперь эксперты по Трампу. Байка про Трампа и семейство Гамбино. Бандиты - люди трезвые, не космонавты. Лучше ли нам от этого? Кочевники и имперцы в США.

Читать: 27+ мин
logo Что по осям

Реплика. Русский язык как скрепа, мат как ржавчина

Доступно подписчикам уровня
«Читатель»
Подписаться за 600₽ в месяц

Совещание Совета по государственному языку. Борьба за язык и идентичность. Словари нормы. Скрепы. мат - грех, но часть языка?

Читать: 25+ мин
logo Что по осям

Супероружие или нет. Про дроны

Доступно подписчикам уровня
«Читатель»
Подписаться за 600₽ в месяц

Дроны - супероружие ли нет? Вязкость. Дроны-камикадзе. Стрельба и РЭБ. Парабола. Порядок бьёт класс. Побеждает на войне тот, у кого чуть-чуть меньше бардака.

Читать: 23+ мин
logo Что по осям

Реплика. Вычислительная мощь решает?

Доступно подписчикам уровня
«Читатель»
Подписаться за 600₽ в месяц

Бурное развитие ИИ как бы говорит нам: решает вычислительная мощность. Не надо ручных правил, лингвистики, офигачим всё огромными вычислительными кластерами, всё получится само. Но есть и другое мнение.

Читать: 38+ мин
logo Что по осям

Недавняя история русского ИТ. Судьба лингвиста в бурлящем Отечестве

Доступно подписчикам уровня
«Читатель»
Подписаться за 600₽ в месяц

Основные задачи прикладной лингвистики. Неказистая судьба лингвиста в Перестройку.Фрактальность языка и прикладной лингвистики. Главный принцип прикладной лингвистики. Приход нейронок. Задачи решены? Нужно согласиться на понижение качества.

Читать: 23+ мин
logo Что по осям

Про Китай. Мифы и иллюзии русского сознания

Доступно подписчикам уровня
«Читатель»
Подписаться за 600₽ в месяц

Китай - враг или друг? Мифы, шаблоны и архетипы про Китай. там всё не так. Бутафория. Имитация. Фальшивая история. Бабки - настоящие. Настоящие хуавеи.

Читать: 16+ мин
logo Что по осям

Дорвеи 3.0. Докажите, что вы не робот

Доступно подписчикам уровня
«Читатель»
Подписаться за 600₽ в месяц

Конференция по поисковой оптимизации. Поисковики столкнулись с новой проблемой. ИИ-тошнота.

Читать: 19+ мин
logo Что по осям

Снова про цифровизацию. Приписки и воровство в цифровом СССР

Доступно подписчикам уровня
«Читатель»
Подписаться за 600₽ в месяц

Цифровая среда стимулирует криминал. Воровать и вредить в ней легче на порядки, ковровым способом. Есть особый вид криминала - приписки. В приписках нет состава преступления или его очень трудно выявить и наказать. А делать приписки в цифре - легче лёгкого. И скрывать следы. Нас ждёт чудовищная виртуальная реальность фальсификаций и приписок всего.

Читать: 7+ мин
logo Что по осям

Обратно же про Рутуб

Доступно подписчикам уровня
«Читатель»
Подписаться за 600₽ в месяц

Газпром внезапно стал владельцем Газпром Медиа Холдинга (сюрприз). Одновременно Роскомнадзор начал замедлять Ютуб. Окно возможностей открылось - но как бы оно не закрылось.

Читать: 22+ мин
logo Что по осям

Реплика. Про номенклатуру и ненависть к совкам

Доступно подписчикам уровня
«Читатель»
Подписаться за 600₽ в месяц

Номенклатура задрала. СССР развалился из-за неё. Всё было только через партию. Щас то же самое! Нет, щас есть социальные лифты. А номенклатура? Сейчас тоже есть.

Читать: 21+ мин
logo Что по осям

ИИ-6. Страхи и отмазки. Репортаж: Форум по этике ИИ

Всем ‎привет,‏ ‎этичные ‎кожаные ‎мешки!

Придётся ‎обратно ‎же‏ ‎поговорить ‎про‏ ‎ИИ.‏ ‎Это ‎же ‎сейчас‏ ‎самое ‎главное,‏ ‎да ‎вот ‎хоть ‎Грефа‏ ‎спросите.

Я‏ ‎только ‎что‏ ‎побывал, ‎заодно‏ ‎и ‎выступил ‎на ‎Форуме ‎по‏ ‎этике‏ ‎искусственного ‎интеллекта. Очень‏ ‎познавательно.

Форум ‎проходил‏ ‎в ‎Центре ‎мировой ‎торговли ‎на‏ ‎Пресне,‏ ‎он‏ ‎же ‎Хаммеровский‏ ‎центр, ‎в‏ ‎полукилометре ‎от‏ ‎небоскрёбов‏ ‎Москва-Сити. ‎Организован‏ ‎форум ‎уже ‎в ‎третий ‎раз‏ ‎Центром ‎развития‏ ‎ИИ‏ ‎при ‎Правительстве ‎РФ‏ ‎(центр ‎создан‏ ‎в ‎этом ‎году).

Попробуйте ‎угадать,‏ ‎кто‏ ‎генеральный ‎партнёр?‏ ‎А, ‎ну‏ ‎нет, ‎так ‎нечестно, ‎вы ‎знали,‏ ‎знали.

Форум‏ ‎был ‎посвящён‏ ‎Кодексу ‎этики‏ ‎ИИ ‎и ‎разным ‎рискам ‎и‏ ‎проблемам‏ ‎с‏ ‎этикой. ‎Пришло‏ ‎человек ‎двести.

Заставка‏ ‎на ‎экране‏ ‎в‏ ‎главном ‎зале‏ ‎была ‎такая:

Вот ‎эта ‎как ‎бы‏ ‎стеклянная ‎мутная‏ ‎пирамидальная‏ ‎хрень ‎справа, ‎как‏ ‎и ‎псевдодерево‏ ‎на ‎ней ‎— ‎нарисованы,‏ ‎естественно,‏ ‎бредогенератором.

Смысла ‎никакого‏ ‎не ‎несёт,‏ ‎вблизи ‎и ‎точной ‎формы ‎не‏ ‎имеет‏ ‎тоже, ‎то‏ ‎ли ‎лестницы,‏ ‎то ‎ли ‎горки, ‎грани ‎сходятся‏ ‎кое-как,‏ ‎ни‏ ‎туда ‎ни‏ ‎сюда, ‎как‏ ‎на ‎рисунках‏ ‎Эшера.‏ ‎Ну  ‎то‏ ‎есть ‎совершенно ‎бессмысленные. ‎Чисто ‎генеративная‏ ‎красотищща. ‎Организаторам‏ ‎это‏ ‎— ‎видимо, ‎ОК.‏ ‎Это ‎вообще‏ ‎показательно.

Наиболее ‎познавательно ‎было ‎пленарное‏ ‎заседание‏ ‎в ‎10‏ ‎утра ‎на‏ ‎форуме.

Сначала ‎собирающихся ‎и ‎рассаживающихся ‎участников‏ ‎приветствовал‏ ‎голос ‎с‏ ‎экрана. ‎Он‏ ‎грохочущим ‎баритоном ‎под ‎тревожную ‎музыку‏ ‎наговорил‏ ‎типовые‏ ‎ИИ-глупости, ‎что-то‏ ‎вроде:

Ув. ‎участники!‏ ‎Я ‎—‏ ‎искусственный‏ ‎интеллект! ‎Я‏ ‎приветствую ‎вас ‎на ‎форуме! ‎Вместе‏ ‎мы ‎сделаем‏ ‎наш‏ ‎мир ‎справедливым, ‎безопасным,‏ ‎обеспечим ‎нам‏ ‎всем ‎лучшее ‎будущее. ‎
По‏ ‎оценкам‏ ‎экспертов ‎искусственный‏ ‎интеллект ‎уже‏ ‎используется ‎в ‎30% ‎предприятий ‎в‏ ‎российской‏ ‎экономике!
Мы ‎все‏ ‎используем ‎искусственный‏ ‎интеллект ‎в ‎повседневной ‎жизни! ‎Мы‏ ‎все‏ ‎доверяем‏ ‎ИИ ‎нашу‏ ‎жизнь!!! ‎
Поэтому‏ ‎безопасность ‎ИИ‏ ‎—‏ ‎это  ‎безусловный‏ ‎приоритет!
Поэтому ‎мы ‎в ‎2021 ‎году‏ ‎создали ‎Кодекс‏ ‎этики‏ ‎ИИ. ‎Его ‎подписали‏ ‎уже ‎700‏ ‎организаций! ‎Институты, ‎компании, ‎корпорации‏ ‎и‏ ‎госорганы. ‎Используют‏ ‎этические ‎принципы.‏ ‎
Россия ‎лидирует ‎по ‎числу ‎компаний,‏ ‎подписавших‏ ‎такой ‎кодекс.‏ ‎А ‎ещё‏ ‎планируется ‎кодекс ‎этики ‎ИИ ‎для‏ ‎БРИКС‏ ‎и‏ ‎единая ‎система‏ ‎регулирования ‎ИИ‏ ‎для ‎БРИКС.

При‏ ‎этом,‏ ‎под ‎грохот‏ ‎и ‎тревожную ‎музыку ‎в ‎качестве‏ ‎иллюстрации ‎на‏ ‎экране‏ ‎крутилось ‎какое-то ‎вибрирующее‏ ‎и ‎содрогающееся‏ ‎светящееся ‎влагалище ‎(или ‎анус,‏ ‎хрен‏ ‎его ‎знает).

Не‏ ‎знаю, ‎что‏ ‎это ‎должно ‎было ‎олицетворять ‎собою.‏ ‎Там‏ ‎ещё ‎написано‏ ‎«вот ‎здесь‏ ‎собрались ‎лучшие ‎специалисты ‎и ‎лидеры‏ ‎индустрии».‏ ‎Где?‏ ‎Вот ‎в‏ ‎этом ‎вот?

Организаторы,‏ ‎наверно, ‎знают.‏ ‎Или‏ ‎надо ‎спросить‏ ‎генерального ‎спонсора.

Текст ‎«титров» ‎— ‎конечно,‏ ‎по-английски ‎—‏ ‎международный‏ ‎же ‎форум.

Дальше ‎на‏ ‎кафедру ‎модератора‏ ‎встал ‎организатор ‎форума ‎—‏ ‎Сергей‏ ‎Наквасин, ‎Директор‏ ‎Национального ‎центра‏ ‎развития ‎ИИ ‎при ‎Правительстве ‎РФ.‏ ‎Кратко‏ ‎— ‎НЦРИИ‏ ‎ПРФ. ‎Скороговорка‏ ‎не ‎хуже ‎других.

Ниже ‎кратко ‎—‏ ‎тезисы‏ ‎выступающих.

Сергей‏ ‎Наквасин:

Почему ‎важно‏ ‎обсуждать ‎вопросы‏ ‎этики ‎ИИ.
Кодекс‏ ‎был‏ ‎написан ‎в‏ ‎сентябре ‎2021. ‎Мы ‎собрались ‎большим‏ ‎экспертным ‎сообществом‏ ‎и‏ ‎в ‎дискуссиях ‎написали‏ ‎Кодекс. ‎В‏ ‎октябре ‎2021 ‎мы ‎провели‏ ‎первый‏ ‎Форум ‎Этики‏ ‎ИИ.
20 организаций ‎присоединились,‏ ‎первые ‎20 ‎пилигримов! ‎Они ‎подписали‏ ‎Кодекс‏ ‎и ‎стали‏ ‎применять ‎его‏ ‎принципы ‎в ‎своей ‎работе.
Сейчас ‎Кодекс‏ ‎подписали‏ ‎уже‏ ‎более ‎800‏ ‎компаний ‎и‏ ‎организаций ‎из‏ ‎10‏ ‎отраслей ‎экономики.‏ ‎Наша ‎цель ‎—  ‎человекоцентричный ‎ИИ‏ ‎во ‎всём‏ ‎мире.‏ ‎У ‎нас ‎еженедельно‏ ‎собирается ‎комиссия‏ ‎по ‎этике ‎ИИ. ‎Она‏ ‎разбирает‏ ‎сложные ‎вопросы‏ ‎и ‎вырабатывает‏ ‎рекомендации.
Форум ‎сегодня ‎— ‎это  ‎транзит‏ ‎от‏ ‎того ‎фундамента,‏ ‎заложенного ‎три‏ ‎года ‎назад, ‎к ‎зданию ‎новой‏ ‎экономики, построенной‏ ‎на‏ ‎ИИ.
Послушаем ‎же‏ ‎наших ‎гостей.

На‏ ‎сцену ‎вышли‏ ‎Татьяна‏ ‎Матвеева ‎(управление‏ ‎ИКТ ‎АП), ‎Валерий ‎Фадеев ‎(СПЧ),‏ ‎Мария ‎Захарова‏ ‎(МИД),‏ ‎Андрей ‎Белевцев ‎(Сбербанк),‏ ‎иностранцы ‎Джассим‏ ‎Хаджи ‎(Президент ‎общества ‎ИИ‏ ‎Бахрейна,‏ ‎а ‎также‏ ‎президент ‎международной‏ ‎группы ‎по ‎ИИ ‎— ‎не‏ ‎знаю,‏ ‎что ‎это‏ ‎значит), ‎Эстела‏ ‎Аранья ‎(советник ‎президента ‎Бразилии ‎по‏ ‎ИИ).

Два‏ ‎запасных‏ ‎докладчика ‎сидели‏ ‎в ‎зале:‏ ‎Саша ‎Крайнов‏ ‎из‏ ‎Яндекса, ‎Андрей‏ ‎Незнамов ‎из ‎Сбербанка.

Татьяна ‎Матвеева ‎(начальник‏ ‎Управления ‎АП‏ ‎по‏ ‎развитию ‎ИКТ ‎и‏ ‎инфраструктуры). ‎Этика‏ ‎в ‎ИИ ‎открывает ‎новые‏ ‎возможности‏ ‎для ‎общества‏ ‎и ‎разработчиков.‏ ‎Этика ‎— ‎это ‎ключевой ‎элемент‏ ‎доверия.‏ ‎Примерно ‎80%‏ ‎граждан ‎по‏ ‎опросам ‎ВЦИОМ ‎— ‎за ‎этичные‏ ‎правила‏ ‎и‏ ‎за ‎проверку‏ ‎человеком. ‎Их‏ ‎понять ‎можно.

Но‏ ‎надо‏ ‎также ‎повышать‏ ‎ответственность ‎пользователей ‎при ‎пользовании ‎такой‏ ‎сложной ‎и‏ ‎хрупкой‏ ‎технологией. ‎Не ‎только‏ ‎разработчиков!

Но ‎в‏ ‎любом ‎случае ‎пора ‎переходить‏ ‎к‏ ‎сертификации. ‎Нужны‏ ‎нормы, ‎стандарты,‏ ‎принципы. ‎Нужны ‎организации, ‎выдающие ‎сертификаты‏ ‎этичности.

А‏ ‎ещё ‎нужны‏ ‎образовательные ‎программы‏ ‎в ‎вузах ‎про ‎этику ‎ИИ.Такое‏ ‎уже‏ ‎есть‏ ‎в ‎Питерском‏ ‎Универе.

Комиссия ‎по‏ ‎этике ‎Альянса‏ ‎ИИ‏ ‎уже ‎сделала‏ ‎«Белую ‎книгу» ‎по ‎этике ‎ИИ,‏ ‎там ‎разобраны‏ ‎кейсы.‏ ‎Для ‎студентов, ‎разработчиков.‏ ‎Это ‎первая‏ ‎такая ‎книга ‎в ‎мире!‏ ‎Мы‏ ‎скоро ‎её‏ ‎представим ‎на‏ ‎Форуме ‎ИИ ‎в ‎октябре.

Этика ‎становится‏ ‎инструментом‏ ‎«мягкого ‎права»,‏ ‎в ‎том‏ ‎числе ‎международного,  ‎в ‎БРИКС ‎это‏ ‎один‏ ‎из‏ ‎приоритетов. ‎Вчера‏ ‎встречались ‎министры‏ ‎БРИКС ‎по‏ ‎ИКТ‏ ‎— ‎они‏ ‎выступают ‎за ‎инклюзивный, ‎ответственный, ‎этичный‏ ‎ИИ, ‎преодоление‏ ‎цифрового‏ ‎разрыва, ‎улучшение ‎жизни‏ ‎людей.

Наквасин:

Передадим ‎слово‏ ‎Марии ‎Захаровой. ‎Сейчас ‎идёт‏  ‎гонка‏ ‎в ‎мире‏ ‎за ‎технологическое‏ ‎лидерство, ‎она ‎не ‎всегда ‎этичная.‏ ‎Мы‏ ‎адаптируемся ‎к‏ ‎этой ‎гонке,‏ ‎умные ‎камеры, ‎генеративные ‎модели, ‎БПЛА,‏ ‎но‏ ‎в‏ ‎любом ‎случае‏ ‎мы ‎лидер‏ ‎в ‎этике!‏ ‎Нигде‏ ‎нет ‎такого‏ ‎форума, ‎регулярного, ‎постоянно ‎действующего. ‎Итак,‏ ‎что ‎думает‏ ‎об‏ ‎этом ‎МИД?

Мария ‎Захарова‏ ‎(МИД). Я ‎бы‏ ‎сказала, ‎что ‎происходит ‎«революционная‏ ‎эволюция»!‏ ‎В ‎международном‏ ‎праве. ‎Оно‏ ‎адаптируется, ‎эволюционно, ‎но ‎очень ‎быстро.‏ ‎Государства‏ ‎— ‎на‏ ‎разных ‎стадиях‏ ‎применения ‎и ‎оформления. ‎Кто ‎теоретически‏ ‎изучает‏ ‎вопрос,‏ ‎а ‎кто‏ ‎уже ‎вовсю‏ ‎применяет.

При ‎этом‏ ‎идёт‏ ‎неспортивная ‎соревновательность,‏ ‎не ‎вполне ‎бои ‎без ‎правил,‏ ‎правила ‎какие-то‏ ‎есть‏ ‎— ‎но ‎они‏ ‎грубо ‎попираются.‏ ‎Мировое ‎сообщество ‎вроде ‎занялось‏ ‎регуляторикой,‏ ‎соглашениями.

Но ‎разработка‏ ‎норм ‎и‏ ‎принятие ‎решений ‎будут ‎подвержены ‎воздействию‏ ‎по‏ ‎западным ‎образцам,‏ ‎будет ‎силовое‏ ‎соперничество ‎вне ‎правового ‎поля.

МИД ‎РФ‏ ‎делает‏ ‎всё,‏ ‎чтобы ‎вернуть‏ ‎международное ‎взаимодействие‏ ‎в ‎правовое‏ ‎поле‏ ‎— ‎чтобы‏ ‎тема ‎ИИ ‎тяготела ‎к ‎сотрудничеству,‏ ‎как ‎другие‏ ‎темы.‏ ‎В ‎соперничестве ‎и‏ ‎конкуренции ‎плохого‏ ‎нет. ‎Но ‎пока ‎всё‏ ‎сваливается‏ ‎в ‎борьбу‏ ‎и ‎агрессию.

Только‏ ‎что ‎принята ‎первая ‎резолюция ‎ООН,‏ ‎целиком‏ ‎посвящённая ‎ИИ.‏ ‎Вторая ‎сессия‏ ‎— ‎про ‎международное ‎сотрудничество ‎в‏ ‎области‏ ‎ИИ.

Прошёл‏ ‎Саммит ‎будущего‏ ‎в ‎Нью-Йорке‏ ‎Результат ‎пока‏ ‎неоднозначный,‏ ‎но ‎подписан‏ ‎Международный ‎Цифровой ‎договор.

Такие ‎же ‎процессы‏ ‎идут ‎в‏ ‎БРИКС‏ ‎и  ‎в ‎СНГ‏ ‎(вчера ‎опубликовано‏ ‎заявление ‎от ‎лидеров ‎СНГ‏ ‎—‏ ‎подписано ‎соглашение‏ ‎об ‎гражданском‏ ‎ИИ, ‎первый ‎такой ‎документ ‎на‏ ‎пространстве‏ ‎СНГ).

Были ‎разные‏ ‎представления, ‎противоречивые‏ ‎подходы, ‎но ‎в ‎итоге ‎есть‏ ‎соглашение.‏ ‎Там‏ ‎есть ‎этика‏ ‎нейросетей, ‎регулирование‏ ‎и ‎саморегулирование‏ ‎ИИ,‏ ‎есть ‎прямое‏ ‎указание ‎на ‎Кодекс ‎Этики. ‎Церемония‏ ‎подписания ‎некоторыми‏ ‎участниками‏ ‎будет ‎здесь ‎же,‏ ‎позже.

Да, ‎можно‏ ‎бояться, ‎что ‎ИТ-гиганты ‎отодвинут‏ ‎этику‏ ‎на ‎второй‏ ‎план. ‎Надеемся,‏ ‎что ‎этого ‎не ‎произойдёт, ‎темпы‏ ‎развития‏ ‎стимулируют ‎дискуссии.

Вот‏ ‎недавно ‎мы‏ ‎посещали ‎офис ‎нашего  ‎флагмана ‎ИИ,‏ ‎смотрели‏ ‎разработанное‏ ‎ПО. ‎Они‏ ‎предлагали ‎свои‏ ‎продукты ‎МИДу.‏ ‎В‏ ‎том ‎числе‏ ‎генерацию ‎голоса ‎спикера, ‎где ‎всё‏ ‎идеальное ‎—‏ ‎тональность,‏ ‎тембр, ‎интонация ‎и‏ ‎эмоции. ‎Это‏ ‎нужно, ‎чтобы ‎заменять ‎уставших‏ ‎от‏ ‎публичной ‎жизни‏ ‎спикеров. ‎Вот,‏ ‎например, ‎у ‎меня ‎уже ‎садится‏ ‎голос!

Но‏ ‎это ‎ведь‏ ‎прямая ‎дорога‏ ‎к ‎дипфейкам! ‎Как ‎только ‎мы‏ ‎покажем‏ ‎всем,‏ ‎что ‎так‏ ‎можно ‎—‏ ‎озвучивать ‎позицию,‏ ‎смыслы‏ ‎автоматически, ‎все‏ ‎бросятся ‎так ‎делать ‎в ‎политической‏ ‎сфере. ‎Что‏ ‎же‏ ‎делать? ‎Казнить ‎нельзя‏ ‎помиловать. ‎Надо‏ ‎понять, ‎где ‎поставить ‎запятую.‏ ‎Технологий-то‏ ‎много, ‎но‏ ‎где ‎применять‏ ‎и ‎как? ‎Какие ‎антидоты ‎вырабатывать?

Этим‏ ‎должны‏ ‎заниматься ‎те,‏ ‎кто ‎вырабатывает‏ ‎этику. ‎Коллеги ‎— ‎молодцы! ‎Наш‏ ‎российский‏ ‎вклад‏ ‎в ‎этику‏ ‎ИИ ‎—‏ ‎уникален. ‎Нужно‏ ‎насыщать‏ ‎технологии ‎ИИ-этикой,‏ ‎плечом ‎к ‎плечу ‎с ‎практиками,‏ ‎учёными. ‎Сохранить‏ ‎этическую‏ ‎политику ‎и ‎повестку.

Наквасин. Важно‏ ‎вырабатывать ‎доверие‏ ‎общества ‎к ‎технологиям. ‎При‏ ‎создании‏ ‎Кодекса  ‎в‏ ‎2021 ‎было‏ ‎столкновение ‎математиков, ‎романтиков ‎ИИ ‎(за‏ ‎мягкое‏ ‎регулирование), ‎и‏ ‎представителей ‎общественности‏ ‎(чтобы ‎не ‎было ‎как ‎в‏ ‎фильме‏ ‎«Терминатор»,‏ ‎не ‎допустить‏ ‎катастрофического ‎сценария).‏ ‎Но ‎грамотность‏ ‎населения‏ ‎в ‎области‏ ‎ИИ ‎возросла, ‎мы ‎теперь ‎понимаем‏ ‎и  ‎риски,‏ ‎и‏ ‎возможности.
Попросим ‎советника ‎Президента‏ ‎и ‎главу‏ ‎СПЧ ‎Фадеева.

Валерий ‎Фадеев ‎(советник‏ ‎Президента,‏ ‎глава ‎Совета‏ ‎по ‎развитию‏ ‎гражданского ‎общества ‎и ‎правам ‎человека): спасибо‏ ‎за‏ ‎вопрос, ‎СПЧ‏ ‎интересуется ‎темой‏ ‎ИТ ‎шире, ‎цифровизацией ‎вообще, ‎мы‏ ‎разрабатываем‏ ‎концепции,‏ ‎регулярно ‎докладываем‏ ‎Президенту.

Мы ‎сейчас‏ ‎отстаём ‎от‏ ‎реалий‏ ‎очень ‎сильно.‏ ‎Кодекс ‎этики  ‎— ‎хорошо. ‎Но‏ ‎всё ‎равно‏ ‎сильно‏ ‎отстаём ‎от ‎реальной‏ ‎жизни.

Вот ‎смотрите.‏ ‎По ‎данным ‎МВД, ‎за‏ ‎год‏ ‎в ‎России‏ ‎было ‎суммарно‏ ‎48 ‎тысяч ‎краж, ‎квартирных ‎и‏ ‎уличных.‏ ‎И ‎при‏ ‎этом ‎—‏ ‎1 ‎600 ‎000 ‎списаний ‎денег‏ ‎мошенниками,‏ ‎то‏ ‎есть ‎в‏ ‎34 ‎раза‏ ‎больше ‎киберпреступлений.‏ ‎Кражи‏ ‎в ‎реальном‏ ‎мире ‎составляют ‎3%.

Сбербанк ‎прогнозирует, ‎что‏ ‎будет ‎украдено‏ ‎у‏ ‎граждан ‎300 ‎миллиардов‏ ‎в ‎2024.

Ну,‏ ‎можно ‎сказать, ‎это ‎же‏ ‎плата‏ ‎за ‎прогресс?‏ ‎Тогда ‎нужно‏ ‎спросить: ‎а ‎что ‎тогда ‎прогресс?

Вот‏ ‎возьмём‏ ‎систему ‎FacePay‏  ‎в ‎московском‏ ‎метро. ‎За ‎три ‎года ‎в‏ ‎системе‏ ‎зарегистрировалось‏ ‎примерно ‎триста‏ ‎тысяч ‎москвичей.‏ ‎Из ‎15‏ ‎млн‏ ‎пользующихся ‎метро,‏ ‎то ‎есть ‎2%. ‎Это ‎что,‏ ‎прогресс?

А ‎вот‏ ‎само‏ ‎метро, ‎когда ‎его‏ ‎прокопали, ‎электричество,‏ ‎провода, ‎динамо-машины, ‎электропоезда, ‎эскалаторы,‏ ‎пробиватели‏ ‎туннелей. ‎Это‏ ‎был ‎реальный‏ ‎технологический ‎прорыв. ‎Вот ‎это ‎—‏ ‎прогресс.‏ ‎Реально ‎меняющий‏ ‎жизнь.

И ‎вдруг‏ ‎вы ‎говорите, ‎что ‎это ‎всё‏ ‎ерунда,‏ ‎а‏ ‎вершина ‎прогресса‏ ‎— ‎платить‏ ‎лицом. ‎Для‏ ‎2%.‏ ‎Это ‎же‏ ‎комично.

Ну ‎и ‎вот ‎теперь ‎прогресс‏ ‎— ‎это‏ ‎генеративные‏ ‎нейронные ‎сети. ‎Они‏ ‎якобы ‎могут‏ ‎писать ‎тексты ‎за ‎журналистов?‏ ‎А‏ ‎зачем? ‎Доливать‏ ‎ручейки ‎шлака‏ ‎в ‎общий ‎септик ‎Интернета?

Говорят, ‎давайте‏ ‎искусственный‏ ‎интеллект ‎будет‏ ‎писать ‎тексты‏ ‎за ‎журналистов. ‎А ‎зачем? ‎Это‏ ‎же‏ ‎чушь.‏ ‎Журналист ‎—‏ ‎это ‎профессия.‏ ‎Если ‎начинающие‏ ‎журналисты‏ ‎не ‎будут‏ ‎писать ‎простые ‎тексты, ‎то ‎они‏ ‎никогда ‎не‏ ‎станут‏ ‎опытными ‎журналистами. ‎Ниагары‏ ‎информационного ‎мусора‏ ‎в ‎Интернете, ‎теперь ‎давайте‏ ‎ещё‏ ‎ИИ ‎будет‏ ‎дополнять ‎их‏ ‎своими ‎ручьями.

Базовая ‎функция ‎журналиста ‎—‏ ‎поехать‏ ‎туда, ‎где‏ ‎произошло ‎событие,‏ ‎поговорить ‎с ‎людьми, ‎понять ‎смысл‏ ‎произошедшего,‏ ‎хорошим‏ ‎языком ‎это‏ ‎изложить. ‎ИИ‏ ‎не ‎может‏ ‎же‏ ‎поехать ‎на‏ ‎место ‎событий, ‎опросить ‎участников, ‎очевидцев,‏ ‎и ‎т.‏ ‎п.

Мы‏ ‎на ‎протяжении ‎24‏ ‎лет ‎читаем‏ ‎репортажи ‎Андрея ‎Колесникова  ‎из‏ ‎президентского‏ ‎пула ‎в‏ ‎«Коммерсанте» ‎о‏ ‎событиях, ‎связанных ‎с ‎Президентом ‎России.‏ ‎Колесникова‏ ‎можно ‎заменить‏ ‎искусственным ‎интеллектом?‏ ‎Вы ‎готовы ‎читать ‎вместо ‎него‏ ‎новости‏ ‎ЧатЖПТ?‏ ‎Это ‎смешно!

Или‏ ‎вот ‎«Кандинский»‏ ‎и ‎прочие.‏ ‎Рисуют‏ ‎картинки. ‎Ну‏ ‎это ‎же ‎гламурная ‎пошлятина. ‎Потому‏ ‎что ‎в‏ ‎интернетах‏ ‎—  ‎массовая ‎гламурная‏ ‎пошлятина.

ИИ ‎нужен‏ ‎где? ‎Промышленность, ‎война. ‎Вот‏ ‎там‏ ‎— ‎пожалуйста.‏ ‎Эти ‎задачи‏ ‎не ‎несут ‎социальных ‎рисков. ‎Здесь‏ ‎можно.

А‏ ‎зачем ‎с‏ ‎ИИ ‎вторгаться‏ ‎в ‎социум? ‎Неприкосновенность ‎частной ‎жизни‏ ‎записана‏ ‎в‏ ‎вашем ‎Кодексе,‏ ‎а ‎до‏ ‎этого ‎—‏ ‎в‏ ‎Конституции. ‎Я‏ ‎лично ‎считаю, ‎что ‎должен ‎быть‏ ‎запрет ‎на‏ ‎автономные‏ ‎решения ‎ИИ. ‎И‏ ‎полный ‎запрет‏ ‎вмешательства ‎в ‎частную ‎жизнь.

Собраны‏ ‎гигантские‏ ‎массивы ‎данных‏ ‎про ‎каждого‏ ‎из ‎нас. ‎Безусловно, ‎для ‎того,‏ ‎чтобы‏ ‎манипулировать. ‎Моя‏ ‎точка ‎зрения,‏ ‎она ‎вам ‎покажется ‎мракобесной, ‎очень‏ ‎простая:‏ ‎запретить‏ ‎вообще ‎индивидуальный‏ ‎контакт ‎с‏ ‎человеком ‎в‏ ‎области‏ ‎торговли ‎с‏ ‎использованием ‎персональных ‎данных.

Сплошь ‎и ‎рядом‏ ‎звонят: ‎«Иван‏ ‎Петрович,‏ ‎мы ‎знаем, ‎что‏ ‎вы ‎интересуетесь‏ ‎китайскими ‎машинами, ‎мы ‎хотим‏ ‎предложить‏ ‎вам ‎скидку».‏ ‎Такой ‎звонок‏ ‎должен ‎рассматриваться ‎как ‎мошенничество, ‎и‏ ‎по‏ ‎его ‎поводу‏ ‎должно ‎возбуждаться‏ ‎уголовное ‎дело. ‎Это ‎вмешательство ‎в‏ ‎личную‏ ‎жизнь‏ ‎человека.

Вообще ‎это‏ ‎создание ‎прозрачности‏ ‎— ‎опасная‏ ‎манипуляция‏ ‎людьми, ‎природой‏ ‎человека. ‎Прошло ‎уже ‎15 ‎лет‏ ‎с ‎того‏ ‎времени‏ ‎когда ‎Цукерберг  ‎и‏ ‎Брин ‎(Цукербрин‏ ‎по ‎Пелевину), ‎выступили  ‎с‏ ‎декларацией‏ ‎«тайны ‎частной‏ ‎жизни ‎больше‏ ‎нет».

Что, ‎поверим ‎Цукербринам? ‎Частная ‎жизнь‏ ‎—‏ ‎это ‎одна‏ ‎из ‎основ‏ ‎человека. ‎Отмена ‎её ‎— ‎это‏ ‎глубокие‏ ‎антропологические‏ ‎изменения. ‎Неизвестные.‏ ‎Которые ‎изменят‏ ‎человека ‎неизвестным‏ ‎нам‏ ‎образом.

Мы ‎что‏ ‎— ‎готовы ‎отменить ‎эту ‎статью‏ ‎в ‎Конституции?

У‏ ‎нас‏ ‎нет ‎осознания ‎этих‏ ‎изменений, ‎нет‏ ‎базовой ‎философии. ‎Мы ‎не‏ ‎знаем,‏ ‎к ‎каким‏ ‎это ‎последствиям‏ ‎приведёт, ‎если  ‎не ‎будет ‎частной‏ ‎жизни.‏ ‎Пока ‎мы‏ ‎этого ‎не‏ ‎осознали ‎— ‎я ‎выступаю ‎на‏ ‎стороне‏ ‎Конституции.

Да,‏ ‎Кодекс ‎этики‏ ‎ИИ ‎—‏ ‎это ‎важно.‏ ‎Вы‏ ‎в ‎этом‏ ‎лидеры, ‎как ‎сказала ‎Захарова. ‎Хорошо.

Но‏ ‎дальше ‎нужно‏ ‎переводить‏ ‎этические ‎правила ‎в‏ ‎правовые. ‎Нежно,‏ ‎аккуратно, ‎но ‎в ‎конечном‏ ‎счёте‏ ‎— ‎в‏ ‎законы. ‎Совет‏ ‎по ‎правам ‎человека ‎готов ‎в‏ ‎этом‏ ‎помочь.

Наквасин. Приглашаю ‎Андрея‏ ‎Белевцева. ‎В‏ ‎2020 ‎году ‎Андрей ‎поддержал ‎создание‏ ‎Кодекса‏ ‎от‏ ‎экспертной ‎группы.‏ ‎Сейчас ‎он‏ ‎представитель ‎Сбербанка.‏ ‎Один‏ ‎из ‎самых‏ ‎технологических ‎банков ‎мира! ‎Как ‎вы‏ ‎применяете ‎этику‏ ‎в‏ ‎технологиях, ‎чем ‎это‏ ‎вам ‎помогает?

Андрей‏ ‎Белевцев ‎(глава ‎разработки ‎ИИ‏ ‎в‏ ‎Сбербанке): Любая ‎технология‏ ‎меняет ‎жизнь.‏ ‎Можно ‎применять ‎в ‎добро ‎и‏ ‎во‏ ‎зло. ‎По‏ ‎миру ‎распространяется‏ ‎выражение ‎AI ‎in ‎for ‎good!‏ ‎ИИ‏ ‎для‏ ‎добра! ‎Мы‏ ‎за ‎это.

Генеративные‏ ‎модели ‎—‏ ‎это‏ ‎революция. ‎12‏ ‎миллионов ‎пользователей ‎используют ‎сервис ‎«Кандинский»,‏ ‎22 ‎миллиона‏ ‎—‏ ‎Гигачат. ‎Сгенерировано ‎уже‏ ‎200 ‎миллионов‏ ‎картинок. ‎Почему ‎люди ‎делают‏ ‎это?‏ ‎Им ‎это‏ ‎нужно!

Но ‎да,‏ ‎мошенники ‎всегда  ‎на ‎шаг ‎впереди.‏ ‎Они‏ ‎ищут ‎по‏ ‎миру ‎технологии,‏ ‎инструменты ‎для ‎мошенничества. ‎А ‎технологий,‏ ‎инструментов‏ ‎в‏ ‎мире  ‎—‏ ‎много.

Но ‎это‏ ‎— ‎ответственность‏ ‎исключительно‏ ‎мошенников. ‎Кто-то‏ ‎произвёл ‎фомку, ‎а ‎кто-то ‎вскрыл‏ ‎квартиру ‎или‏ ‎машину.‏ ‎Фомка ‎и ‎её‏ ‎производитель ‎ни‏ ‎в ‎чём ‎не ‎виноваты!

Но‏ ‎саморегулирование‏ ‎нужно! ‎Мы‏ ‎в ‎Альянсе‏ ‎подписали ‎Декларацию ‎об ‎ответственной ‎разработке‏ ‎генеративного‏ ‎ИИ. ‎На сайте‏ ‎Альянса ‎ИИ можно‏ ‎почитать. ‎Присоединяйтесь. ‎Так ‎мы ‎сделаем‏ ‎наш‏ ‎мир‏ ‎безопаснее.

Польза ‎ИИ‏ ‎драматически ‎перевешивает‏ ‎риски! ‎Генеративные‏ ‎модели‏  ‎— ‎это‏ ‎первые ‎шаги. ‎А ‎если ‎применять‏ ‎в ‎медицине!‏ ‎Для‏ ‎анализа ‎всего, ‎что‏ ‎есть ‎о‏ ‎больном ‎— ‎анализов, ‎анамнеза,‏ ‎снимков!

А‏ ‎генерация ‎лекарств.‏ ‎Они ‎же‏ ‎будут ‎дешевле! ‎Почему ‎лекарства ‎дорогие?‏ ‎Очень‏ ‎дорог ‎анализ‏ ‎молекул ‎новых‏ ‎лекарств, ‎а ‎также ‎испытания. ‎ИИ‏ ‎даёт‏ ‎сокращение‏ ‎времени ‎на‏ ‎испытания ‎и‏ ‎анализ ‎свойств‏ ‎молекул‏ ‎иногда ‎с‏ ‎нескольких ‎лет ‎до ‎нескольких ‎дней!‏ ‎Значит, ‎цены‏ ‎будут‏ ‎ниже ‎для ‎больных‏ ‎людей!

Про ‎принятие‏ ‎решений. ‎У ‎кого ‎из‏ ‎вас‏ ‎есть ‎автомобильные‏ ‎права? ‎Ну‏ ‎вот, ‎у ‎половины. ‎Вы ‎же‏ ‎понимаете,‏ ‎что ‎последние‏ ‎15 ‎лет‏ ‎сам ‎автомобиль ‎принимает ‎решение, ‎тормозить‏ ‎или‏ ‎нет.‏ ‎ABS ‎и‏ ‎всё ‎такое!

(Крики‏ ‎из ‎зала:‏ ‎«Это‏ ‎неверно!»).

Ближайшие ‎перспективы‏ ‎— ‎агенты ‎и ‎… ‎пока‏ ‎не ‎переведено‏ ‎на‏ ‎русский ‎… ‎овеществление‏ ‎ИИ! ‎(просто‏ ‎пересказывает ‎Шмидта ‎про ‎agents‏ ‎и‏  ‎text ‎to‏ ‎action). Их ‎нужно‏ ‎испытывать, ‎сертифицировать!

ИИ ‎— ‎это ‎огромный‏ ‎толчок‏ ‎для ‎экономики.‏ ‎Эксперты ‎оценивают,‏ ‎что ‎в ‎ближайшие ‎годы ‎ИИ‏ ‎даст‏ ‎плюс‏  ‎3% ‎к‏ ‎мировому ‎ВВП‏ ‎— ‎это‏ ‎от‏ ‎генеративного ‎ИИ.‏ ‎Это ‎больше ‎ВВП ‎России!

Про ‎требование‏ ‎маркировки. ‎Вот‏ ‎мы‏ ‎скоро ‎выложим ‎распознаватель‏ ‎искусственных ‎текстов‏ ‎и ‎человеческих. ‎Надо ‎помогать‏ ‎людям‏ ‎отличать.

Надо, ‎конечно,‏ ‎маркировать. ‎Хотя,‏ ‎фотки ‎на ‎вашей ‎мобиле ‎всегда‏ ‎применяют‏ ‎фильтры ‎ИИ.‏ ‎Они ‎всегда‏ ‎срабатывают, ‎если ‎специально ‎не ‎отключить.‏ ‎Красотища‏ ‎же!‏ ‎Вы ‎же‏ ‎не ‎отказываетесь!

Нужно,‏ ‎чтобы ‎плюсы‏ ‎превышали‏ ‎риски. ‎Для‏ ‎этого ‎риски ‎надо ‎закладывать ‎на‏ ‎этапе ‎проектирования.

Фадеев: зачем‏ ‎нужно‏ ‎нагенерить ‎текст, ‎а‏ ‎затем ‎его‏ ‎отличать ‎от ‎настоящего? ‎Это‏ ‎же‏ ‎как ‎крабовый‏ ‎салат ‎и‏ ‎салат ‎из ‎«крабовых ‎палочек», ‎разница‏ ‎в‏ ‎пять ‎раз‏ ‎по ‎цене.‏ ‎И ‎по ‎вкусу.

Белевцев: Есть ‎же ‎разные‏ ‎сценарии!‏ ‎Ну‏ ‎вот ‎можно‏ ‎же ‎поручить‏ ‎подготовить ‎выступление‏ ‎или‏ ‎совещание! ‎Больше‏ ‎идей ‎для ‎мозгового ‎штурма.

Фадеев: тогда ‎это‏ ‎интеллектуальный ‎поисковик,‏ ‎а‏ ‎не ‎самостоятельно ‎плавающий‏ ‎текст. ‎Промежуточные‏ ‎инструменты.

Захарова: нужно ‎кодифицировать ‎маркировку ‎текстов‏ ‎ИИ.‏ ‎Везде, ‎со‏ ‎ссылкой ‎—‏ ‎студент, ‎доцент, ‎учёный, ‎диплом, ‎кандидатская,‏ ‎монография,‏ ‎художественный ‎текст‏ ‎— ‎везде‏ ‎сноска, ‎что ‎сделано ‎ИИ. ‎Оформить‏ ‎это‏ ‎законодательно.‏ ‎И ‎вот‏ ‎тут ‎же‏ ‎заработает ‎такая‏ ‎саморегуляция‏ ‎— ‎залюбуешься.‏ ‎Граждане ‎сами ‎будут ‎решать, ‎хотят‏ ‎ли ‎они‏ ‎читать‏ ‎искусственное.

Сейчас ‎регуляции ‎нет.‏ ‎Будут ‎массово‏ ‎выпускаться ‎искусственные ‎учебники, ‎пособия‏ ‎для‏ ‎несовершеннолетних. ‎Сначала‏ ‎на ‎равных‏ ‎с ‎настоящими ‎текстами. ‎Но ‎потом‏ ‎они‏ ‎начнут ‎заполнять‏ ‎пространство ‎настолько,‏ ‎что ‎сами ‎станут ‎базой ‎для‏ ‎следующего‏ ‎этапа‏ ‎обучения ‎ИИ,‏ ‎для ‎принятия‏ ‎решений ‎и‏ ‎использования‏ ‎для ‎учебников.‏ ‎Отличить ‎уже ‎будет ‎нельзя.

Нужно ‎вводить‏ ‎сноску ‎везде‏ ‎—‏ ‎в ‎том ‎числе‏ ‎в ‎рекламу.

Наквасин: пригласим‏ ‎Александра ‎Крайнова, ‎он ‎евангелист‏ ‎ИИ.‏ ‎Вот ‎вчера‏ ‎Нобеля ‎дали‏ ‎как ‎бы ‎по ‎физике, ‎но‏ ‎за‏ ‎ИИ. ‎Расскажите.

Крайнов: кратко‏ ‎про ‎нобелевскую‏ ‎историю: ‎вообще ‎комьюнити ‎в ‎шоке.‏ ‎Взяты‏ ‎два‏ ‎достойных ‎человека,‏ ‎из ‎немногих‏ ‎в ‎сообществе‏ ‎ИИ,‏ ‎но ‎не‏ ‎самые ‎главные ‎гении. ‎Но ‎они‏ ‎точно ‎не‏ ‎имеют‏ ‎отношения ‎к ‎физике.

Нобелевских‏ ‎премий ‎за‏ ‎математику ‎или ‎информатику ‎—‏  ‎нет.‏ ‎Ну ‎вот‏ ‎дали ‎за‏ ‎физику. ‎При ‎этом ‎наградили ‎за‏ ‎то,‏ ‎что ‎сделано‏ ‎вообще ‎в‏ ‎80-е ‎годы. ‎Ну,  ‎что ‎получилось,‏ ‎то‏ ‎получилось.

К‏ ‎этике. ‎Надо‏ ‎сказать, ‎что‏ ‎ИИ ‎—‏ ‎это‏ ‎сквозные ‎технологии,‏ ‎как ‎электричество, ‎как ‎персональные ‎компьютеры‏ ‎и ‎Интернет.‏ ‎Сначала‏ ‎на ‎них ‎только‏ ‎печатали ‎и‏ ‎играли ‎в ‎игрушки. ‎Потом‏ ‎начали‏ ‎работать. ‎Такие‏ ‎вещи ‎незаметно‏ ‎улучшают ‎эффективность, ‎постепенно, ‎повседневно.

Да, ‎генеративный‏ ‎ИИ‏ ‎— ‎пока‏ ‎игрушка. ‎Потом‏ ‎доползёт ‎до ‎медицины, ‎науки, ‎поможет‏ ‎изучать‏ ‎работы‏ ‎предшественников, ‎сделать‏ ‎своё. ‎Будет‏ ‎бустом ‎для‏ ‎всех!

ИИ‏ ‎— ‎всегда‏ ‎вероятностный. ‎Он ‎не ‎даёт ‎100%‏ ‎качества. ‎Разработчик‏ ‎не‏ ‎может ‎исправить ‎ошибки.‏ ‎Он ‎может‏ ‎сделать ‎так, ‎что ‎следующая‏ ‎версия‏ ‎будет ‎лучше.‏ ‎Монетка ‎же‏ ‎не ‎падает ‎одинаково, ‎даже ‎если‏ ‎две‏ ‎одинаковые ‎стороны.‏ ‎Нет ‎гарантий.‏ ‎Ответ ‎у ‎ИИ ‎— ‎всегда‏ ‎разный.‏ ‎Можно‏ ‎постоянно ‎замерять‏ ‎качество.

Так ‎что‏ ‎нужно ‎иметь‏ ‎чёткие‏ ‎цели ‎и‏ ‎измерения. ‎Нужно ‎вычислять ‎стоимость ‎ошибки.‏ ‎Больше ‎ли‏ ‎ошибка‏ ‎без ‎ИИ ‎или‏ ‎меньше?

Вопросы, ‎на‏ ‎которые ‎не ‎отвечали: ‎вот,‏ ‎допустим,‏ ‎надо ‎взять‏ ‎за ‎образец‏ ‎для ‎ИИ ‎самого ‎этичного ‎человека!‏ ‎На‏ ‎планете! ‎Где‏ ‎он?

Из ‎зала:
Ашманов: Иисус‏ ‎Христос ‎чем ‎тебя ‎не ‎устраивает?
Крайнов:‏ ‎А,‏ ‎ну,‏ ‎устраивает. ‎Но‏ ‎это ‎же‏ ‎в ‎рамках‏ ‎одной‏ ‎религии!
Ашманов: ‎Ну‏ ‎возьми ‎Мохаммеда ‎для ‎мусульман.

В ‎общем,‏ ‎если ‎работать‏ ‎по‏ ‎инструкции, ‎человек ‎или‏ ‎ИИ ‎—‏ ‎всё ‎равно ‎будут ‎люфты,‏ ‎непредвиденные‏ ‎ситуации. ‎Никакая‏ ‎инструкция ‎не‏ ‎даёт ‎100% ‎исполнения. ‎Этика ‎нужна‏ ‎при‏ ‎любой ‎инструкции!


Дальше‏ ‎были ‎выступления‏ ‎иностранцев. ‎Там ‎всё ‎было ‎совершенно‏ ‎дежурное.‏ ‎Просто‏ ‎рассказ ‎«а‏ ‎вот ‎у‏ ‎нас».

Потом, ‎после‏ ‎перерыва,‏ ‎начались ‎выступления‏ ‎«в ‎стиле ‎TED». ‎7 ‎минут,‏ ‎7 ‎слайдов.‏ ‎Я‏ ‎в ‎свою ‎очередь‏ ‎выступил, ‎ниже‏ ‎моя ‎презентация ‎из ‎семи‏ ‎слайдов:

В‏ ‎общем, ‎всё‏ ‎предсказуемо, ‎80%‏ ‎чистой ‎рекламы ‎ИИ ‎и ‎цифровизации‏ ‎(и‏ ‎это ‎на‏ ‎форуме ‎«про‏ ‎этику») ‎—  ‎ИИ ‎это ‎инновационно,‏ ‎полезно,‏ ‎«буст‏ ‎экономики», ‎людям‏ ‎нужно, ‎но‏ ‎они ‎пока‏ ‎не‏ ‎понимают, ‎давайте‏ ‎их ‎обучать, ‎возложим ‎на ‎них‏ ‎ответственность, ‎а‏ ‎не‏ ‎только ‎на ‎разработчиков,‏ ‎надо ‎вообще‏  ‎«стирать ‎грань ‎между ‎человеком‏ ‎и‏ ‎ИИ» ‎(точная‏ ‎цитата ‎из‏ ‎одного ‎из ‎семиминутных ‎выступлений).

Камлания ‎типа‏ ‎«всё‏ ‎равно ‎уже‏ ‎всё ‎открыто»,‏ ‎«мы ‎уже ‎отдали ‎все ‎свои‏ ‎медицинские‏ ‎данные».‏ ‎Ну ‎и‏ ‎тому ‎подобное.

А‏ ‎скоро ‎будет‏ ‎AI‏ ‎Jorney ‎от‏ ‎Грефа. ‎Там ‎вообще ‎будет ‎безумие.

Читать: 14+ мин
logo Что по осям

Реплика. Ещё раз про ABBY. Блудные сыновья Родины

Доступно подписчикам уровня
«Читатель»
Подписаться за 600₽ в месяц

Вернуть программистов Абби? А зачем? Они точно поедут? Что вообще делать с нашим ненашими и ненашими нашими? Гуманизм? Во время войны?

Читать: 31+ мин
logo Что по осям

Славная история ABBYY и героическая биография Давида Яна

Доступно подписчикам уровня
«Читатель»
Подписаться за 600₽ в месяц

Многобуков про феномен Давида Яна и особенности его личности.

Читать: 14+ мин
logo Что по осям

Невыносимая точность бытия

— Видел ‎последнюю‏ ‎«Миссия ‎невыполнима ‎— ‎6» ‎с‏ ‎Крузом?
— Да ‎полная‏ ‎хрень,‏ ‎такая ‎тупая ‎разводка‏ ‎для ‎детей.
— Почему?
— Ну,‏ ‎я ‎не ‎спецназовец, ‎могу‏ ‎ещё‏ ‎поверить, ‎что‏ ‎он ‎выныривает‏ ‎с ‎подлодки ‎на ‎ста ‎метрах‏ ‎глубины‏ ‎или ‎прыгает‏ ‎с ‎парашютом‏ ‎на ‎крышу ‎небоскрёба, ‎но ‎вот‏ ‎то,‏ ‎что‏ ‎он ‎флешку‏ ‎вставил ‎с‏ ‎первого ‎раза‏ ‎—‏ ‎это ‎точно‏ ‎туфта!

Всем ‎привет, ‎неточные ‎пользователи ‎Госуслуг!

Я‏ ‎был ‎на‏ ‎прошлой‏ ‎неделе ‎три ‎дня‏ ‎на ‎Банковском‏ ‎форуме ‎в ‎Сочи. ‎Это‏ ‎центральная‏ ‎тусовка ‎банковской‏ ‎отрасли, ‎на‏ ‎пленарной ‎сессии ‎выступают ‎председатель ‎ЦБ,‏ ‎президенты‏ ‎и ‎вице-президенты‏ ‎крупных ‎банков,‏ ‎главы ‎банковских ‎ассоциаций, ‎модерирует ‎сессию‏ ‎глава‏ ‎банковского‏ ‎комитета ‎Госдумы.

Я‏ ‎с ‎интересом‏ ‎послушал ‎Набиуллину,‏ ‎она,‏ ‎по-моему, ‎вообще‏ ‎на ‎голову ‎выше ‎окормляемой ‎ею‏ ‎отрасли ‎и‏ ‎представителей‏ ‎банков.

Да ‎и ‎секции‏ ‎на ‎форуме‏ ‎примерно ‎настолько ‎же ‎представительные.

Я‏ ‎не‏ ‎банкир, ‎хотя‏ ‎Крибрум ‎и‏ ‎Наносемантика ‎поставляют ‎услуги ‎и ‎банкам‏ ‎тоже.‏ ‎Но ‎меня‏ ‎туда ‎позвали,‏ ‎потому ‎что ‎была ‎сессия ‎про‏ ‎«технологии»,‏ ‎«ИИ»,‏ ‎прочее ‎«будущее». Подозреваю,‏ ‎что ‎аниматором,‏ ‎«поперечником».

Жену ‎мою‏ ‎позвали‏ ‎туда, ‎напротив,‏ ‎вести ‎секцию ‎про ‎настоящее технологий, ‎то‏ ‎есть ‎про‏ ‎мошенничество,‏ ‎«перевод ‎денег ‎без‏ ‎согласия ‎клиента»‏ ‎(это ‎такой ‎эвфемизм ‎банковский),‏ ‎кражу‏ ‎сотен ‎миллиардов.‏ ‎Расскажу ‎потом‏ ‎подробнее.

Ну, ‎хоть ‎в ‎море ‎искупались‏ ‎пару‏ ‎раз. ‎Там,‏ ‎кстати, ‎если‏ ‎не ‎думать ‎про ‎характерные ‎для‏ ‎Сочей‏ ‎гальку‏ ‎и ‎камни,‏ ‎воздух ‎+28,‏ ‎вода ‎+23,‏ ‎до‏ ‎сих ‎пор.‏ ‎Не ‎завидуйте.

Сейчас ‎хочется ‎коснуться ‎другого.‏ ‎На ‎секции‏ ‎про‏ ‎будущее ‎технологий ‎было‏ ‎сказано: ‎«Между‏ ‎прочим, ‎банковская ‎отрасль ‎—‏ ‎единственная,‏ ‎где ‎ИИ‏ ‎уже ‎принимает‏ ‎решения». Докладчик ‎сказал ‎это ‎с ‎неподдельным‏ ‎энтузиазмом,‏ ‎он ‎считает‏ ‎это ‎достижением.

Принятие‏ ‎ИИ ‎автономных ‎решений ‎о ‎людях

Я‏ ‎уже‏ ‎рассказывал‏ ‎тут про ‎типовую‏ ‎ситуацию: ‎
Заполняет‏ ‎потенциальный ‎заёмщик‏ ‎(программист‏ ‎ИИ, ‎между‏ ‎прочим) ‎два ‎часа ‎форму ‎заявки‏ ‎на ‎кредит‏ ‎в‏ ‎одном ‎самом ‎крупном‏ ‎банке, ‎нажимает‏ ‎«Отправить», ‎ему ‎отказывают ‎через‏ ‎45‏ ‎секунд. ‎Кто‏ ‎отказал? ‎Правильно.
Очевидно,‏ ‎докладчик ‎имел ‎в ‎виде ‎именно‏ ‎это‏ ‎«принятие ‎решений‏ ‎ИИ». ‎Отличное‏ ‎принятие: ‎ни ‎понять ‎причину ‎отказа,‏ ‎ни‏ ‎оспорить‏ ‎— ‎просто‏ ‎негде. ‎А‏ ‎в ‎БКИ‏ ‎уже‏ ‎поставили ‎чёрную‏ ‎метку ‎— ‎ведь ‎самый ‎крупный‏ ‎банк ‎уже‏ ‎отказал‏ ‎этому ‎подозрительному ‎заёмщику.

Ну,‏ ‎а ‎штрафы‏ ‎же ‎за ‎превышение ‎скорости‏ ‎или‏ ‎неправильную ‎парковку‏ ‎берут ‎ведь‏ ‎автоматически?

Фактически ‎— ‎да, ‎но ‎формально‏ ‎—‏ ‎нет. ‎Там‏ ‎обычно ‎в‏ ‎уведомлении ‎о ‎штрафе ‎внизу ‎есть‏ ‎дежурная‏ ‎фраза‏ ‎«Капитан ‎полиции‏ ‎рассмотрел ‎данные‏ ‎фотофиксации…» ‎и‏ ‎подпись‏ ‎капитана. ‎ГАИшники‏ ‎хотя ‎бы ‎стараются ‎пока соблюсти ‎приличия‏ ‎и ‎букву‏ ‎закона.

Между‏ ‎тем, ‎ровно ‎про‏ ‎это ‎же‏ ‎у ‎меня ‎была ‎жаркая‏ ‎перепалка‏ ‎на ‎секции‏ ‎на ‎ПМЭФ,‏ ‎посвящённой ‎— ‎сюрприз ‎— ‎опять‏ ‎же‏ ‎ИИ ‎и‏ ‎цифровизации. ‎Я‏ ‎там ‎препирался ‎с ‎места ‎(они‏ ‎слова‏ ‎залу‏ ‎не ‎давали,‏ ‎пришлось ‎взять)‏ ‎с ‎губернатором‏ ‎Московской‏ ‎области ‎Воробьёвым,‏ ‎который ‎пытается ‎ввести ‎в ‎МО‏ ‎автоматические ‎штрафы‏ ‎для‏ ‎людей, ‎которых распознали ‎по‏ ‎лицу — за ‎переход‏ ‎ж/д ‎путей ‎в ‎неположенном‏ ‎месте,‏ ‎за ‎выбрасывание‏ ‎мусора ‎не‏ ‎в ‎свой ‎контейнер ‎и ‎т.‏ ‎п.

Были‏ ‎там ‎ещё‏ ‎Артемий ‎Лебедев,‏ ‎Юра ‎Максимов ‎из ‎«Позитив ‎Текнолоджиз»‏ ‎и‏ ‎кто-то‏ ‎ещё. ‎Все‏ ‎такое ‎позитивные.

Общий‏ ‎запев ‎был,‏ ‎как‏ ‎обычно ‎«удобно,‏ ‎удобно, ‎удобно, ‎инновационно» и ‎— ‎внимание!‏ ‎— ‎«да‏ ‎мы‏ ‎так ‎спасаем ‎жизни». Распознавание‏ ‎лиц ‎и‏ ‎штрафы ‎же ‎удержат ‎граждан‏ ‎от‏ ‎перебегания ‎спьяну‏ ‎перед ‎близко‏ ‎идущим ‎поездом. ‎Да? ‎Ведь ‎да?

Но‏ ‎я‏ ‎не ‎про‏ ‎это ‎—‏ ‎желающие ‎могут ‎просто ‎посмотреть ‎видео‏ ‎секции.‏ ‎Его‏ ‎полно ‎в‏ ‎сети. ‎Вроде‏ ‎есть ‎вот‏ ‎тут (я‏ ‎сам ‎не‏ ‎смотрел, ‎мне ‎моя ‎рожа ‎не‏ ‎нравится).

Я ‎просто‏ ‎хочу‏ ‎подчеркнуть, ‎что ‎идея‏ ‎передать ‎ИИ‏ ‎право ‎принимать ‎автономные ‎решения‏ ‎о‏ ‎людях ‎—‏ ‎находит ‎всё‏ ‎больше ‎сторонников, ‎проникает ‎в ‎головы‏ ‎масс‏ ‎чиновников ‎и‏ ‎айтишников. ‎И‏ ‎очень ‎им ‎нравится.

Я ‎уже ‎писал‏ ‎о‏ ‎том,‏ ‎что ‎это‏ ‎не ‎передача‏ ‎ответственности ‎ИИ‏ ‎— ИИ‏ ‎не ‎может‏ ‎нести ‎никакой ‎ответственности ‎(и ‎никаких‏ ‎законов ‎об‏ ‎ответственности‏ ‎разработчиков ‎или ‎эксплуатантов‏ ‎ИИ ‎—‏ ‎тоже ‎нет). ‎Это ‎снятие‏ ‎ответственности с‏ ‎людей, ‎которые‏ ‎её ‎раньше‏ ‎несли.

Это ‎довольно ‎очевидно. ‎А ‎у‏ ‎этих‏ ‎людей ‎сбрасывание‏ ‎бремени ‎ответственности‏  ‎— ‎вызывает ‎взрыв ‎энергии ‎и‏ ‎эндорфинов.‏ ‎Такова‏ ‎сила ‎отказа‏ ‎от ‎ответственности.

Но‏ ‎эту ‎тему‏ ‎стоит‏ ‎продолжить ‎в‏ ‎другой ‎раз.

А ‎сейчас ‎стоит ‎поговорить‏ ‎об ‎алмазной‏  ‎точности‏ ‎этих ‎решений.

Псевдоточность

Системы ‎цифровизации,‏ ‎основанные ‎на‏ ‎ИИ ‎(или ‎не ‎основанные)‏ ‎обладают‏ ‎в ‎первую‏ ‎очередь ‎крайней‏ ‎«точностью». ‎Своеобразной: ‎они ‎требуют ‎точного‏ ‎ввода‏ ‎данных, ‎заполнения‏ ‎формы ‎—‏ ‎в ‎точности ‎так, ‎как ‎потребовал‏ ‎программист.

Я‏ ‎думаю,‏ ‎многие ‎из‏ ‎читателей ‎чертыхались,‏ ‎когда ‎те‏ ‎или‏ ‎иные ‎сайты‏ ‎Госуслуг, ‎банков ‎отрыгивали ‎введённые ‎формы‏ ‎с ‎сообщением:‏ ‎«это‏ ‎поле ‎обязательно ‎к‏ ‎заполнению», ‎«введите‏ ‎номер», ‎«введите ‎срок ‎действия‏ ‎карты»,‏ ‎«загрузите ‎скан‏ ‎документа», ‎«формат‏ ‎не ‎распознан» ‎и ‎т. ‎п.

При‏ ‎этом,‏ ‎естественно, ‎алгоритмы‏ ‎распознавания ‎номеров,‏ ‎паспортных ‎данных ‎и ‎прочего ‎непрерывно‏ ‎лажают‏ ‎—‏ ‎то ‎не‏ ‎понимают ‎8‏ ‎вместо ‎+7,‏ ‎то‏ ‎обрезают ‎введённое‏ ‎произвольным ‎образом, ‎то ‎неявно ‎требуют‏ ‎только ‎одного‏ ‎неочевидного‏ ‎формата ‎ввода ‎без‏ ‎пояснений ‎и‏ ‎предупреждений ‎и ‎т. ‎п.

То‏ ‎есть‏ ‎работают ‎шумно,‏ ‎коряво ‎—‏ ‎но ‎зато ‎требуют ‎точно подстраиваться ‎под‏ ‎их‏ ‎работу.

Например, ‎прошлым‏ ‎летом ‎моя‏ ‎дочь ‎поступала ‎в ‎университет. ‎Регистрироваться‏ ‎в‏ ‎приёмной‏ ‎комиссии ‎надо‏ ‎было ‎почему-то‏ ‎обязательно ‎в‏ ‎онлайне.‏ ‎Экономия ‎персонала‏ ‎и ‎современно-инновационно. ‎И ‎документы ‎—‏ ‎тоже ‎загружать‏ ‎в‏ ‎онлайне, ‎в ‎виде‏ ‎сканов. ‎
Это,‏ ‎кстати, ‎нарушение ‎прав ‎граждан,‏ ‎вообще-то.
Но‏ ‎при ‎этом‏ ‎загруженные ‎документы‏ ‎система ‎не ‎принимала. ‎Потому ‎что‏ ‎она‏ ‎требовала ‎загружать‏ ‎их ‎в‏ ‎вертикальной ‎ориентации ‎— ‎а ‎сама‏ ‎их‏ ‎упорно‏ ‎автоматически ‎переворачивала‏ ‎в ‎альбомную‏ ‎ориентацию ‎и‏ ‎потом‏ ‎отказывалась ‎принимать.‏ ‎
Я ‎посчитал ‎— ‎мы ‎с‏ ‎дочкой ‎сделали‏ ‎25‏ ‎попыток. ‎А ‎время‏ ‎уходило, ‎оставалось‏ ‎сначала ‎два ‎дня, ‎потом‏ ‎день,‏ ‎потом ‎полдня‏ ‎до ‎срока‏ ‎подачи!
Но ‎я ‎хотя ‎бы ‎понимаю,‏ ‎как‏ ‎думает ‎программист,‏ ‎поэтому ‎я‏ ‎последовательным ‎обрезанием ‎полей ‎сканов ‎и‏ ‎изменением‏ ‎форм-фактора‏ ‎скана ‎заставил‏ ‎систему ‎перестать‏ ‎переворачивать. ‎
А‏ ‎что‏ ‎делали ‎неопытные‏ ‎юные ‎абитуриенты? ‎Как ‎они ‎пробились?‏ ‎А ‎может‏ ‎быть,‏ ‎кто-то ‎и ‎не‏ ‎пробился. ‎Техподдержка,‏ ‎естественно, ‎никак ‎не ‎помогала.‏ ‎«Идите‏ ‎на ‎сайт,‏ ‎там ‎всё‏ ‎работает».

Это ‎вот ‎ключевое: ‎система ‎требует‏ ‎от‏ ‎человека ‎исключительно‏ ‎точного ‎поведения — при‏ ‎этом ‎она ‎неполноценна, ‎неполна ‎и‏ ‎неточна‏ ‎сама.‏ ‎Не ‎выносит‏ ‎отличия ‎вариантов,‏ ‎не ‎имеет‏ ‎люфтов.

А‏ ‎человеки ‎всегда‏ ‎создают ‎облако ‎вариантов.

Ещё ‎одна ‎история,‏ ‎которую ‎мне‏ ‎рассказали‏ ‎недавно:

Женщина ‎садится ‎в‏ ‎поезд ‎из‏ ‎Ростова. ‎Показывает ‎проводнику ‎ксерокопию‏ ‎паспорта.‏ ‎Проводник ‎не‏ ‎пускает: ‎«не‏ ‎положено, ‎нужен ‎оригинал».
— Да ‎я ‎из-под‏ ‎Курска,‏ ‎сгорели ‎все‏ ‎документы. ‎Хохлы‏ ‎деревню ‎захватили.
— А, ‎тогда ‎проходите, ‎—‏ ‎говорит‏ ‎проводник.

У‏ ‎проводника ‎есть‏ ‎человеческий ‎«люфт»,‏ ‎он ‎понимает‏ ‎жизнь‏ ‎и ‎её‏ ‎непростое ‎устройство, ‎не ‎прямоугольное. ‎Он‏ ‎— ‎человек.‏ ‎В‏ ‎этот ‎момент ‎он‏ ‎принял ‎этическое‏ ‎решение ‎в ‎ситуации ‎этического‏ ‎выбора:‏ ‎взял ‎на‏ ‎себя ‎ответственность‏ ‎(возможно, ‎небольшую), ‎но ‎помог ‎человеку‏ ‎против‏ ‎формальных ‎правил.

Вряд‏ ‎ли ‎это‏ ‎была ‎агентша ‎СБУ, ‎хотя ‎это‏ ‎всё‏ ‎равно‏ ‎как ‎бы‏ ‎нарушение ‎безопасности‏ ‎(хотя ‎сам‏ ‎принцип‏ ‎проезда ‎по‏ ‎паспорту ‎можно ‎трактовать ‎по-разному ‎—‏ ‎так ‎уж‏ ‎ли‏ ‎он ‎полезен ‎и‏ ‎безопасен).

Возможно, ‎если‏ ‎бы ‎на ‎проводника ‎наехал‏ ‎потом‏ ‎начальник ‎поезда,‏ ‎или ‎на‏ ‎начальника ‎поезда ‎наехали ‎бы ‎его‏ ‎начальники,‏ ‎менты, ‎ФСБ‏ ‎— ‎аргумент‏ ‎про ‎сгоревший ‎дом ‎и ‎на‏ ‎них‏ ‎бы‏ ‎подействовал. ‎Они‏ ‎же ‎тоже‏ ‎люди, ‎даже‏ ‎если‏ ‎это ‎не‏ ‎всегда ‎заметно.

А ‎вот ‎что ‎бы‏ ‎делала ‎эта‏ ‎погорелица,‏ ‎если ‎бы ‎документы‏ ‎на ‎входе‏ ‎проверял ‎ИИ? ‎В ‎поезд‏ ‎бы‏ ‎точно ‎не‏ ‎села. ‎Болталась‏ ‎бы ‎многие ‎недели ‎в ‎Ростове,‏ ‎пытаясь‏ ‎восстановить ‎документы,‏ ‎без ‎жилья‏ ‎и ‎денег? ‎Так ‎ей ‎бы‏ ‎ИИ‏ ‎и‏ ‎в ‎МФЦ‏ ‎тоже ‎не‏ ‎дал ‎бы‏ ‎ничего‏ ‎восстановить.

А ‎ведь‏ ‎с ‎текущим ‎триумфальным ‎шествием ‎ИИ‏ ‎и ‎цифровизации‏ ‎до‏ ‎окончательного ‎оцифрошизения ‎РЖД‏ ‎— ‎недолго,‏ ‎похоже. ‎Будут ‎пускать ‎в‏ ‎поезд‏ ‎только ‎по‏ ‎биометрии ‎лица‏ ‎или ‎автоматическому ‎сканированию ‎паспорта. ‎И‏ ‎с‏ ‎ксероксом ‎не‏ ‎пустят.

Восстановление ‎или‏ ‎замена ‎документов ‎из ‎ДР ‎и‏ ‎ЛНР,‏ ‎русских‏ ‎мигрантов ‎из‏ ‎Прибалтики ‎—‏ ‎вообще ‎квест‏ ‎ещё‏ ‎тот, ‎как‏ ‎мы ‎обсуждали ‎в ‎прошлом ‎посте.

И‏ ‎там ‎Госуслуги,‏ ‎как‏ ‎правило, ‎ломаются ‎—‏ ‎не ‎дают‏ ‎прописать ‎в ‎квартире, ‎например,‏ ‎без‏ ‎военного ‎билета,‏ ‎а ‎старый‏ ‎военник ‎не ‎того ‎формата ‎и‏ ‎юрисдикции‏ ‎— ‎не‏ ‎признают.

Работают ‎ли‏ ‎там ‎за ‎фасадом ‎цифрового ‎сервиса‏ ‎тупые‏ ‎и‏ ‎равнодушные ‎люди‏ ‎или ‎это‏ ‎чисто ‎ИИ-распознавалка‏ ‎дурит‏ ‎— ‎не‏ ‎так ‎уже ‎важно.

Важно, ‎что ‎требуют‏ ‎точного исполнения ‎узких,‏ ‎плохо‏ ‎выпиленных ‎правил, ‎безукоризненного прохождения‏ ‎по ‎каким-то‏ ‎прописанным ‎каким-то ‎анонимным ‎программистом‏ ‎путям,‏ ‎где ‎шаг‏ ‎в ‎сторону‏ ‎считается ‎за ‎побег.

Психология ‎отношений ‎чиновника‏ ‎и‏ ‎его ‎программиста

Очевидно,‏ ‎сервисы ‎для‏ ‎граждан ‎изначально ‎делаются ‎по ‎ТЗ.

ТЗ‏ ‎эти‏ ‎часто‏ ‎описывают ‎идеального‏ ‎пользователя. ‎Если‏ ‎ТЗ ‎исполнено‏ ‎по‏ ‎букве ‎—‏ ‎их ‎выкатывают ‎«в ‎продакшн».

При ‎этом‏ ‎логика ‎программиста‏ ‎очень‏ ‎часто ‎не ‎соответствует‏ ‎реальной ‎жизни‏ ‎и ‎поведению ‎реальных ‎пользователей,‏ ‎но‏ ‎как ‎он‏ ‎об ‎этом‏ ‎узнает?

Если ‎пробиться ‎через ‎услугу ‎не‏ ‎получается,‏ ‎а ‎пожаловаться‏ ‎можно ‎только‏ ‎чатботу ‎— ‎то ‎как ‎сведения‏ ‎о‏ ‎реальных‏ ‎косяках ‎дойдут‏ ‎для ‎разработчиков?

Через‏ ‎чиновника? ‎Так‏ ‎он‏ ‎же ‎реагирует‏ ‎только ‎на ‎пинки ‎начальства ‎или‏ ‎на ‎медийную‏ ‎шумиху.

Я‏ ‎не ‎раз ‎слышал‏ ‎от ‎жертв‏ ‎онлайновых ‎сервисов: ‎ну, ‎через‏ ‎сайт‏ ‎ничего ‎сделать‏ ‎не ‎удаётся,‏ ‎поеду ‎в ‎понедельник ‎лично ‎разговаривать‏ ‎(Госуслуги,‏ ‎МОЭК, ‎мусорные‏ ‎упыри-мытари ‎и‏ ‎тому ‎подобное).

Часто ‎это ‎поездка ‎из‏ ‎области‏ ‎куда-то‏ ‎в ‎районный‏ ‎город ‎километров‏ ‎за ‎сорок‏ ‎—‏ ‎но ‎там‏ ‎хоть ‎поговорить ‎можно, ‎объяснить ‎ситуацию.

Сайт‏ ‎или ‎сервис‏ ‎после‏ ‎такой ‎поездки, ‎конечно,‏ ‎не ‎меняется‏ ‎— ‎никто ‎по ‎итогу‏ ‎косяка‏ ‎сервиса ‎не‏ ‎добавляет ‎вариантов,‏ ‎гибкости, ‎нечёткости. ‎Я ‎подозреваю, ‎что‏ ‎в‏ ‎большинстве ‎случаев‏ ‎просто ‎нет‏ ‎никакого ‎информационного ‎канала ‎от ‎тех,‏ ‎кто‏ ‎разговаривает‏ ‎с ‎ушибленными‏ ‎онлайном ‎гражданами,‏ ‎к ‎программистам‏ ‎системы.

Более‏ ‎того, ‎не‏ ‎в ‎интересах ‎чиновника ‎как-то ‎исправлять‏ ‎ситуацию ‎с‏ ‎негодным‏ ‎сервисом. ‎Почему? ‎Потому‏ ‎что ‎основное‏ ‎уже ‎произошло: ‎ответственность ‎уже‏ ‎снята.

Целевая‏ ‎функция: ‎ИТ-прослойка

Основной‏ ‎смысл ‎цифровизации,‏ ‎по ‎сути ‎— ‎создание ‎ИТ-прослойки‏ ‎между‏ ‎чиновником ‎и‏ ‎населением, которая ‎позволяет‏ ‎снять ‎ответственность ‎и ‎вообще ‎не‏ ‎общаться‏ ‎с‏ ‎быдлом.

Чатбот ‎не‏ ‎помогает ‎гражданам,‏ ‎а ‎отгоняет‏ ‎их‏ ‎от ‎оператора‏ ‎контакт-центра, ‎чтобы ‎снизить ‎нагрузку. ‎На‏ ‎банковском ‎форуме‏ ‎прямо‏ ‎рассказывали ‎об ‎успехах:‏ ‎в ‎три‏ ‎раза ‎снизили ‎расходы ‎на‏ ‎контакт-центр!‏ ‎При ‎этом‏ ‎ни ‎слова‏ ‎о ‎качестве ‎самой ‎услуги ‎и‏ ‎удовлетворённости‏ ‎клиентов. ‎Ну‏ ‎и ‎в‏ ‎самом ‎деле, ‎если ‎клиента ‎отогнали‏ ‎—‏ ‎его‏ ‎уже ‎и‏ ‎не ‎спросить‏ ‎о ‎качестве.

Это‏ ‎очень‏ ‎облегчающая ‎функция‏ ‎ИИ: ‎даже ‎если ‎что-то ‎работает‏ ‎не ‎так,‏ ‎население‏ ‎недовольно ‎— ‎то‏ ‎виноват ‎не‏ ‎чиновник, ‎а ‎все ‎прочие.‏ ‎Программисты,‏ ‎эксплуатанты, ‎хакеры.‏ ‎ИИ ‎барахлит,‏ ‎ну ‎да, ‎мы ‎же ‎знаем,‏ ‎что‏ ‎ИТ ‎барахлят‏ ‎часто. ‎Все‏ ‎к ‎этому ‎привыкли, ‎понимают. ‎Компьютер‏ ‎завис‏ ‎—‏ ‎ну, ‎понятно.

Вы‏ ‎наверняка ‎не‏ ‎раз ‎слышали‏ ‎в‏ ‎МФЦ ‎«ой,‏ ‎сейчас ‎что-то ‎система ‎с ‎утра‏ ‎глючит, ‎не‏ ‎могу‏ ‎пока ‎документ ‎подгрузить,‏ ‎подождём ‎перезагрузки,‏ ‎щас, ‎щас»,  хотя ‎сами ‎девочки‏ ‎в‏ ‎МФЦ ‎—‏ ‎хорошие, ‎вежливые,‏ ‎старательные ‎и ‎эффективные. ‎Потому ‎что‏ ‎люди.

А‏ ‎зачем ‎это‏ ‎всё ‎делается?‏ ‎Мотивация ‎какая?

Робот-чиновник

Программист ‎Госуслуг ‎ставит ‎на‏ ‎тумбочке‏ ‎у‏ ‎кровати ‎два‏ ‎стакана ‎—‏ ‎один ‎полный‏ ‎воды,‏ ‎другой ‎пустой.‏ ‎С ‎водой ‎— ‎попить, ‎если‏ ‎ночью ‎захочется,‏ ‎пустой‏ ‎— ‎на ‎случай,‏ ‎если ‎не‏ ‎захочется.

Министр ‎связи ‎Шадаев ‎не‏ ‎раз‏ ‎говорил ‎на‏ ‎совещаниях ‎и‏ ‎в ‎частных ‎беседам: ‎нам ‎нужен‏ ‎чиновник-робот.‏ ‎А ‎ещё‏ ‎лучше ‎робот-чиновник.‏ ‎Это ‎их ‎целевая ‎функция.

Цифровизаторам ‎кажется,‏ ‎что‏ ‎ИИ‏ ‎и ‎ИТ-сервисы‏ ‎будут ‎прекрасно‏ ‎безлюдно ‎обслуживать‏ ‎население,‏ ‎которое, ‎ну‏ ‎прямо ‎надо ‎сказать, ‎поднадоело ‎уже.

Проблема‏ ‎тут ‎даже‏ ‎не‏ ‎в ‎том, ‎что‏ ‎тот ‎уродливый‏ ‎ИИ, ‎который ‎разрабатывают ‎наши‏ ‎отечественные‏ ‎имитаторы, ‎галлюцинирует‏ ‎и ‎несёт‏ ‎чушь ‎(я ‎писал ‎тут ‎уже‏ ‎про‏ ‎орех вместо ‎гайки,‏ ‎рисуемый ‎Кандинским,‏ ‎выдуманные ‎бредогенератором ‎безумные ‎истории, ‎и‏ ‎тому‏ ‎подобную‏ ‎генерируемую ‎пургу,‏ ‎как ‎ментовская‏ ‎распознавалка  ‎путает‏ ‎лица‏ ‎с ‎порогом‏ ‎70%, ‎как ‎распознавалка ‎в ‎метро‏ ‎долго ‎думает,‏ ‎так‏ ‎что ‎в ‎турникет‏ ‎пробегают ‎двое‏ ‎и ‎т. ‎п.).

Проблема ‎именно‏ ‎в‏ ‎том, ‎что‏ ‎ИИ ‎безжалостен,‏ ‎требует ‎от ‎хомо ‎сапиенсов, ‎кожаных‏ ‎мешков,‏ ‎точного ‎поведения, а‏ ‎стандарты ‎этого‏ ‎точного ‎поведения ‎задаёт ‎неизвестно ‎кто,‏ ‎с‏ ‎этикой‏ ‎и ‎логикой‏ ‎аутичного ‎программиста,‏ ‎техноварвара, ‎отделённого‏ ‎от‏ ‎реальной ‎жизни‏ ‎многими ‎звеньями ‎тендера, ‎заказа, ‎ТЗ,‏ ‎приёмки, ‎откатов.

С‏ ‎человеком‏ ‎можно ‎поговорить. ‎С‏ ‎ИИ ‎нельзя.

Эта‏ ‎ситуация ‎в ‎целом ‎описывается‏ ‎общей‏ ‎аналогией: ‎скоро‏ ‎ИИ ‎будет‏ ‎штрафовать ‎водителя ‎за ‎заезд ‎колесом‏ ‎на‏ ‎сплошную ‎на‏ ‎два ‎сантиметра.‏ ‎Не, ‎ну, ‎а ‎чо, ‎это‏ ‎же‏ ‎нарушение?‏ ‎Камера ‎посмотрит,‏ ‎заметит, ‎выпишет‏ ‎штраф. ‎Если‏ ‎сразу‏ ‎заплатить ‎—‏ ‎скидка ‎50%. ‎Отлично ‎же. ‎Мечта‏ ‎чиновника.

Сейчас ‎пока‏ ‎ещё‏ ‎люди ‎принимают ‎законы‏ ‎и ‎подзаконные‏ ‎акты ‎о ‎штрафах. ‎Там‏ ‎есть‏ ‎люфты. Допустим, ‎на‏ ‎данном ‎участке‏ ‎ограничение ‎90, ‎а ‎общеизвестный ‎люфт‏ ‎—‏ ‎20, ‎так‏ ‎что ‎за‏ ‎105 ‎км/ч ‎не ‎оштрафуют. ‎Этот‏ ‎люфт‏ ‎много‏ ‎раз ‎пытались‏ ‎отменить ‎или‏ ‎уменьшить ‎поборники‏ ‎пуристического‏ ‎зажима ‎нарушителей,‏ ‎адепты ‎Железной ‎руки.

Пока ‎не ‎вышло.‏ ‎Но ‎это‏ ‎сейчас‏ ‎не ‎вышло. ‎А‏ ‎вот ‎с‏ ‎ИИ ‎всё ‎ведь ‎будет‏ ‎круче.

Сейчас‏ ‎и ‎так‏ ‎постоянно ‎идут‏ ‎разговоры ‎о ‎вычислении ‎«средней ‎скорости‏ ‎по‏ ‎маршруту», ‎штрафовании‏ ‎«за ‎опасное‏ ‎поведение», ‎распознанное ‎камерой и ‎т. ‎п.‏ ‎Всё‏ ‎конечно,‏ ‎автоматически, ‎это‏ ‎же ‎так‏ ‎круто, ‎да.

А‏ ‎кто‏ ‎задаст ‎критерии‏ ‎«опасного ‎поведения»? ‎Безжалостный ‎ИИ, ‎в‏ ‎который ‎заложат‏ ‎правила‏ ‎аутичные ‎и ‎асоциальные‏ ‎программисты ‎(у‏ ‎которых ‎даже ‎может ‎не‏ ‎быть‏ ‎собственного ‎автомобиля‏ ‎и ‎опыта‏ ‎вождения).

Но. ‎Штрафов ‎будет ‎больше, ‎хорошо‏ ‎же.‏ ‎Губернатор ‎Воробьёв‏ ‎будет ‎доволен.

Возражение,‏ ‎что ‎это ‎страшилки, ‎что ‎ИИ‏ ‎отладят‏ ‎в‏ ‎конце ‎концов,‏ ‎разбивается ‎об‏ ‎истории ‎Амазона‏ ‎и‏ ‎других ‎ИТ-гигантов,‏ ‎где ‎сотрудники ‎суперкомпьютеризированных ‎супермегагигаскладов ‎Амазона,‏ ‎управляемые ‎всеведущим‏ ‎ИИ,‏ ‎писают ‎под ‎камерами‏ ‎в ‎пустые‏ ‎пластиковые ‎бутылки ‎прямо ‎на‏  ‎рабочем‏ ‎месте, ‎потому‏ ‎что ‎ИИ‏ ‎штрафует ‎их ‎— ‎автоматически ‎—‏ ‎за‏ ‎слишком ‎частые‏ ‎походы ‎в‏ ‎туалет. ‎Слишком ‎частые ‎— ‎по‏ ‎мнению‏ ‎начальства‏ ‎и ‎его‏ ‎программистов, ‎они‏ ‎же ‎лучше‏ ‎знают,‏ ‎сколько ‎раз‏ ‎в ‎день ‎упаковщику ‎надо ‎мочиться.

То‏ ‎есть ‎это‏ ‎не‏ ‎вопрос ‎отладки. ‎Это‏ ‎вопрос ‎того,‏ ‎что ‎ИИ ‎удобно использовать ‎как‏ ‎электронный‏ ‎хлыст, ‎которым‏ ‎погонять ‎хуманов.

У‏ ‎ИИ ‎люфтов ‎нет, ‎с ‎ним‏ ‎нельзя‏ ‎поговорить ‎и‏ ‎договориться. Идиоты ‎цифровизаторы‏ ‎считают, ‎что ‎это ‎очень ‎хорошо.‏ ‎Ведь‏ ‎ИИ‏ ‎не ‎берёт‏ ‎взяток. ‎Никакой‏ ‎коррупции. ‎Никаких‏ ‎отклонений,‏ ‎кумовства ‎и‏ ‎семейственности! ‎Всё ‎чётко! ‎Жёсткие ‎правила!

И‏ ‎он ‎научит‏ ‎человека‏ ‎не ‎делать ‎ошибок и‏ ‎жить ‎правильно!

То‏ ‎есть ‎речь ‎от ‎том,‏ ‎чтобы‏ ‎расчеловечить ‎человека.‏ ‎Ведь ‎делать‏ ‎ошибки ‎— ‎это ‎не ‎просто‏ ‎встроенная‏ ‎особенность ‎человека,‏ ‎это ‎его‏ ‎право ‎и ‎возможность.

Нас ‎в ‎итоге‏ ‎ждёт‏ ‎что-то‏ ‎вроде ‎ошейника‏ ‎с ‎током,‏ ‎который ‎надевают‏ ‎на‏ ‎плохо ‎обученных‏ ‎и ‎импульсивных ‎собак ‎породы ‎джек-рассел,‏ ‎чтобы ‎не‏ ‎убегали.

Я‏ ‎пока ‎не ‎вижу‏ ‎просвета. ‎Цифровизаторы‏ ‎бодро ‎едут ‎на ‎этом‏ ‎нарративе.

А‏ ‎дальше ‎нас,‏ ‎возможно, ‎ждёт‏ ‎следующая ‎триумфальная ‎ступень ‎развития ‎ИИ‏ ‎—‏ ‎передача ‎ИИ‏ ‎возможности  ‎самостоятельно‏ ‎расширять ‎пространство ‎принимаемых ‎решений. ‎На‏ ‎«основе‏ ‎самообучения».

То‏ ‎есть ‎Страж-птица‏ ‎по ‎Шекли.

Читать: 17+ мин
logo Что по осям

Настоящие русские за пределами

Доступно подписчикам уровня
«Читатель»
Подписаться за 600₽ в месяц

Жопоголики в сети. Имитационные русские в бывших республиках СССР. В Россию не поеду, у вас всё плохо, русских ущемляют, здесь бороться с русофобией тоже не буду, здесь за это сажают. Законодатели русофобию сделают преступлением. Но приросших к месту соотечественников русофобы варят по нашему периметру на медленном огне. Когда начнётся - будет поздно, придётся освобождать из концлагерей.

Читать: 21+ мин
logo Что по осям

Кровь и гематомы экономики

Доступно подписчикам уровня
«Читатель»
Подписаться за 600₽ в месяц

Мистическая природа денег. Деньги - средство потребления или ресурс? Синьораж. Государства не живут на налоги. Кровь экономики. Перенос питательных веществ к органам. Мёртвые деньги. Гематомы.

Читать: 12+ мин
logo Что по осям

Умные города и пентаэритриттетранитрат

Доступно подписчикам уровня
«Читатель»
Подписаться за 600₽ в месяц

Взрыв пейджеров. Закладка или взрывчатка. Облачные города БРИКС на фоне тетранитрата пентаэритрита. Поможет просвещение граждан? На то непохоже.

Показать еще

Обновления проекта

Статистика

394 подписчика

Фильтры

Пн
Вт
Ср
Чт
Пт
Сб
Вс
28
29
30
31
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
1

Подарить подписку

Будет создан код, который позволит адресату получить бесплатный для него доступ на определённый уровень подписки.

Оплата за этого пользователя будет списываться с вашей карты вплоть до отмены подписки. Код может быть показан на экране или отправлен по почте вместе с инструкцией.

Будет создан код, который позволит адресату получить сумму на баланс.

Разово будет списана указанная сумма и зачислена на баланс пользователя, воспользовавшегося данным промокодом.

Добавить карту
0/2048