ИИ-6. Страхи и отмазки. Репортаж: Форум по этике ИИ

Всем ‎привет,‏ ‎этичные ‎кожаные ‎мешки!

Придётся ‎обратно ‎же‏ ‎поговорить ‎про‏ ‎ИИ.‏ ‎Это ‎же ‎сейчас‏ ‎самое ‎главное,‏ ‎да ‎вот ‎хоть ‎Грефа‏ ‎спросите.

Я‏ ‎только ‎что‏ ‎побывал, ‎заодно‏ ‎и ‎выступил ‎на ‎Форуме ‎по‏ ‎этике‏ ‎искусственного ‎интеллекта. Очень‏ ‎познавательно.

Форум ‎проходил‏ ‎в ‎Центре ‎мировой ‎торговли ‎на‏ ‎Пресне,‏ ‎он‏ ‎же ‎Хаммеровский‏ ‎центр, ‎в‏ ‎полукилометре ‎от‏ ‎небоскрёбов‏ ‎Москва-Сити. ‎Организован‏ ‎форум ‎уже ‎в ‎третий ‎раз‏ ‎Центром ‎развития‏ ‎ИИ‏ ‎при ‎Правительстве ‎РФ‏ ‎(центр ‎создан‏ ‎в ‎этом ‎году).

Попробуйте ‎угадать,‏ ‎кто‏ ‎генеральный ‎партнёр?‏ ‎А, ‎ну‏ ‎нет, ‎так ‎нечестно, ‎вы ‎знали,‏ ‎знали.

Форум‏ ‎был ‎посвящён‏ ‎Кодексу ‎этики‏ ‎ИИ ‎и ‎разным ‎рискам ‎и‏ ‎проблемам‏ ‎с‏ ‎этикой. ‎Пришло‏ ‎человек ‎двести.

Заставка‏ ‎на ‎экране‏ ‎в‏ ‎главном ‎зале‏ ‎была ‎такая:

Вот ‎эта ‎как ‎бы‏ ‎стеклянная ‎мутная‏ ‎пирамидальная‏ ‎хрень ‎справа, ‎как‏ ‎и ‎псевдодерево‏ ‎на ‎ней ‎— ‎нарисованы,‏ ‎естественно,‏ ‎бредогенератором.

Смысла ‎никакого‏ ‎не ‎несёт,‏ ‎вблизи ‎и ‎точной ‎формы ‎не‏ ‎имеет‏ ‎тоже, ‎то‏ ‎ли ‎лестницы,‏ ‎то ‎ли ‎горки, ‎грани ‎сходятся‏ ‎кое-как,‏ ‎ни‏ ‎туда ‎ни‏ ‎сюда, ‎как‏ ‎на ‎рисунках‏ ‎Эшера.‏ ‎Ну  ‎то‏ ‎есть ‎совершенно ‎бессмысленные. ‎Чисто ‎генеративная‏ ‎красотищща. ‎Организаторам‏ ‎это‏ ‎— ‎видимо, ‎ОК.‏ ‎Это ‎вообще‏ ‎показательно.

Наиболее ‎познавательно ‎было ‎пленарное‏ ‎заседание‏ ‎в ‎10‏ ‎утра ‎на‏ ‎форуме.

Сначала ‎собирающихся ‎и ‎рассаживающихся ‎участников‏ ‎приветствовал‏ ‎голос ‎с‏ ‎экрана. ‎Он‏ ‎грохочущим ‎баритоном ‎под ‎тревожную ‎музыку‏ ‎наговорил‏ ‎типовые‏ ‎ИИ-глупости, ‎что-то‏ ‎вроде:

Ув. ‎участники!‏ ‎Я ‎—‏ ‎искусственный‏ ‎интеллект! ‎Я‏ ‎приветствую ‎вас ‎на ‎форуме! ‎Вместе‏ ‎мы ‎сделаем‏ ‎наш‏ ‎мир ‎справедливым, ‎безопасным,‏ ‎обеспечим ‎нам‏ ‎всем ‎лучшее ‎будущее. ‎

По‏ ‎оценкам‏ ‎экспертов ‎искусственный‏ ‎интеллект ‎уже‏ ‎используется ‎в ‎30% ‎предприятий ‎в‏ ‎российской‏ ‎экономике!

Мы ‎все‏ ‎используем ‎искусственный‏ ‎интеллект ‎в ‎повседневной ‎жизни! ‎Мы‏ ‎все‏ ‎доверяем‏ ‎ИИ ‎нашу‏ ‎жизнь!!! ‎

Поэтому‏ ‎безопасность ‎ИИ‏ ‎—‏ ‎это  ‎безусловный‏ ‎приоритет!

Поэтому ‎мы ‎в ‎2021 ‎году‏ ‎создали ‎Кодекс‏ ‎этики‏ ‎ИИ. ‎Его ‎подписали‏ ‎уже ‎700‏ ‎организаций! ‎Институты, ‎компании, ‎корпорации‏ ‎и‏ ‎госорганы. ‎Используют‏ ‎этические ‎принципы.‏ ‎

Россия ‎лидирует ‎по ‎числу ‎компаний,‏ ‎подписавших‏ ‎такой ‎кодекс.‏ ‎А ‎ещё‏ ‎планируется ‎кодекс ‎этики ‎ИИ ‎для‏ ‎БРИКС‏ ‎и‏ ‎единая ‎система‏ ‎регулирования ‎ИИ‏ ‎для ‎БРИКС.

При‏ ‎этом,‏ ‎под ‎грохот‏ ‎и ‎тревожную ‎музыку ‎в ‎качестве‏ ‎иллюстрации ‎на‏ ‎экране‏ ‎крутилось ‎какое-то ‎вибрирующее‏ ‎и ‎содрогающееся‏ ‎светящееся ‎влагалище ‎(или ‎анус,‏ ‎хрен‏ ‎его ‎знает).

Не‏ ‎знаю, ‎что‏ ‎это ‎должно ‎было ‎олицетворять ‎собою.‏ ‎Там‏ ‎ещё ‎написано‏ ‎«вот ‎здесь‏ ‎собрались ‎лучшие ‎специалисты ‎и ‎лидеры‏ ‎индустрии».‏ ‎Где?‏ ‎Вот ‎в‏ ‎этом ‎вот?

Организаторы,‏ ‎наверно, ‎знают.‏ ‎Или‏ ‎надо ‎спросить‏ ‎генерального ‎спонсора.

Текст ‎«титров» ‎— ‎конечно,‏ ‎по-английски ‎—‏ ‎международный‏ ‎же ‎форум.

Дальше ‎на‏ ‎кафедру ‎модератора‏ ‎встал ‎организатор ‎форума ‎—‏ ‎Сергей‏ ‎Наквасин, ‎Директор‏ ‎Национального ‎центра‏ ‎развития ‎ИИ ‎при ‎Правительстве ‎РФ.‏ ‎Кратко‏ ‎— ‎НЦРИИ‏ ‎ПРФ. ‎Скороговорка‏ ‎не ‎хуже ‎других.

Ниже ‎кратко ‎—‏ ‎тезисы‏ ‎выступающих.

Сергей‏ ‎Наквасин:

Почему ‎важно‏ ‎обсуждать ‎вопросы‏ ‎этики ‎ИИ.

Кодекс‏ ‎был‏ ‎написан ‎в‏ ‎сентябре ‎2021. ‎Мы ‎собрались ‎большим‏ ‎экспертным ‎сообществом‏ ‎и‏ ‎в ‎дискуссиях ‎написали‏ ‎Кодекс. ‎В‏ ‎октябре ‎2021 ‎мы ‎провели‏ ‎первый‏ ‎Форум ‎Этики‏ ‎ИИ.

20 организаций ‎присоединились,‏ ‎первые ‎20 ‎пилигримов! ‎Они ‎подписали‏ ‎Кодекс‏ ‎и ‎стали‏ ‎применять ‎его‏ ‎принципы ‎в ‎своей ‎работе.

Сейчас ‎Кодекс‏ ‎подписали‏ ‎уже‏ ‎более ‎800‏ ‎компаний ‎и‏ ‎организаций ‎из‏ ‎10‏ ‎отраслей ‎экономики.‏ ‎Наша ‎цель ‎—  ‎человекоцентричный ‎ИИ‏ ‎во ‎всём‏ ‎мире.‏ ‎У ‎нас ‎еженедельно‏ ‎собирается ‎комиссия‏ ‎по ‎этике ‎ИИ. ‎Она‏ ‎разбирает‏ ‎сложные ‎вопросы‏ ‎и ‎вырабатывает‏ ‎рекомендации.

Форум ‎сегодня ‎— ‎это  ‎транзит‏ ‎от‏ ‎того ‎фундамента,‏ ‎заложенного ‎три‏ ‎года ‎назад, ‎к ‎зданию ‎новой‏ ‎экономики, построенной‏ ‎на‏ ‎ИИ.

Послушаем ‎же‏ ‎наших ‎гостей.

На‏ ‎сцену ‎вышли‏ ‎Татьяна‏ ‎Матвеева ‎(управление‏ ‎ИКТ ‎АП), ‎Валерий ‎Фадеев ‎(СПЧ),‏ ‎Мария ‎Захарова‏ ‎(МИД),‏ ‎Андрей ‎Белевцев ‎(Сбербанк),‏ ‎иностранцы ‎Джассим‏ ‎Хаджи ‎(Президент ‎общества ‎ИИ‏ ‎Бахрейна,‏ ‎а ‎также‏ ‎президент ‎международной‏ ‎группы ‎по ‎ИИ ‎— ‎не‏ ‎знаю,‏ ‎что ‎это‏ ‎значит), ‎Эстела‏ ‎Аранья ‎(советник ‎президента ‎Бразилии ‎по‏ ‎ИИ).

Два‏ ‎запасных‏ ‎докладчика ‎сидели‏ ‎в ‎зале:‏ ‎Саша ‎Крайнов‏ ‎из‏ ‎Яндекса, ‎Андрей‏ ‎Незнамов ‎из ‎Сбербанка.

Татьяна ‎Матвеева ‎(начальник‏ ‎Управления ‎АП‏ ‎по‏ ‎развитию ‎ИКТ ‎и‏ ‎инфраструктуры). ‎Этика‏ ‎в ‎ИИ ‎открывает ‎новые‏ ‎возможности‏ ‎для ‎общества‏ ‎и ‎разработчиков.‏ ‎Этика ‎— ‎это ‎ключевой ‎элемент‏ ‎доверия.‏ ‎Примерно ‎80%‏ ‎граждан ‎по‏ ‎опросам ‎ВЦИОМ ‎— ‎за ‎этичные‏ ‎правила‏ ‎и‏ ‎за ‎проверку‏ ‎человеком. ‎Их‏ ‎понять ‎можно.

Но‏ ‎надо‏ ‎также ‎повышать‏ ‎ответственность ‎пользователей ‎при ‎пользовании ‎такой‏ ‎сложной ‎и‏ ‎хрупкой‏ ‎технологией. ‎Не ‎только‏ ‎разработчиков!

Но ‎в‏ ‎любом ‎случае ‎пора ‎переходить‏ ‎к‏ ‎сертификации. ‎Нужны‏ ‎нормы, ‎стандарты,‏ ‎принципы. ‎Нужны ‎организации, ‎выдающие ‎сертификаты‏ ‎этичности.

А‏ ‎ещё ‎нужны‏ ‎образовательные ‎программы‏ ‎в ‎вузах ‎про ‎этику ‎ИИ.Такое‏ ‎уже‏ ‎есть‏ ‎в ‎Питерском‏ ‎Универе.

Комиссия ‎по‏ ‎этике ‎Альянса‏ ‎ИИ‏ ‎уже ‎сделала‏ ‎«Белую ‎книгу» ‎по ‎этике ‎ИИ,‏ ‎там ‎разобраны‏ ‎кейсы.‏ ‎Для ‎студентов, ‎разработчиков.‏ ‎Это ‎первая‏ ‎такая ‎книга ‎в ‎мире!‏ ‎Мы‏ ‎скоро ‎её‏ ‎представим ‎на‏ ‎Форуме ‎ИИ ‎в ‎октябре.

Этика ‎становится‏ ‎инструментом‏ ‎«мягкого ‎права»,‏ ‎в ‎том‏ ‎числе ‎международного,  ‎в ‎БРИКС ‎это‏ ‎один‏ ‎из‏ ‎приоритетов. ‎Вчера‏ ‎встречались ‎министры‏ ‎БРИКС ‎по‏ ‎ИКТ‏ ‎— ‎они‏ ‎выступают ‎за ‎инклюзивный, ‎ответственный, ‎этичный‏ ‎ИИ, ‎преодоление‏ ‎цифрового‏ ‎разрыва, ‎улучшение ‎жизни‏ ‎людей.

Наквасин:

Передадим ‎слово‏ ‎Марии ‎Захаровой. ‎Сейчас ‎идёт‏  ‎гонка‏ ‎в ‎мире‏ ‎за ‎технологическое‏ ‎лидерство, ‎она ‎не ‎всегда ‎этичная.‏ ‎Мы‏ ‎адаптируемся ‎к‏ ‎этой ‎гонке,‏ ‎умные ‎камеры, ‎генеративные ‎модели, ‎БПЛА,‏ ‎но‏ ‎в‏ ‎любом ‎случае‏ ‎мы ‎лидер‏ ‎в ‎этике!‏ ‎Нигде‏ ‎нет ‎такого‏ ‎форума, ‎регулярного, ‎постоянно ‎действующего. ‎Итак,‏ ‎что ‎думает‏ ‎об‏ ‎этом ‎МИД?

Мария ‎Захарова‏ ‎(МИД). Я ‎бы‏ ‎сказала, ‎что ‎происходит ‎«революционная‏ ‎эволюция»!‏ ‎В ‎международном‏ ‎праве. ‎Оно‏ ‎адаптируется, ‎эволюционно, ‎но ‎очень ‎быстро.‏ ‎Государства‏ ‎— ‎на‏ ‎разных ‎стадиях‏ ‎применения ‎и ‎оформления. ‎Кто ‎теоретически‏ ‎изучает‏ ‎вопрос,‏ ‎а ‎кто‏ ‎уже ‎вовсю‏ ‎применяет.

При ‎этом‏ ‎идёт‏ ‎неспортивная ‎соревновательность,‏ ‎не ‎вполне ‎бои ‎без ‎правил,‏ ‎правила ‎какие-то‏ ‎есть‏ ‎— ‎но ‎они‏ ‎грубо ‎попираются.‏ ‎Мировое ‎сообщество ‎вроде ‎занялось‏ ‎регуляторикой,‏ ‎соглашениями.

Но ‎разработка‏ ‎норм ‎и‏ ‎принятие ‎решений ‎будут ‎подвержены ‎воздействию‏ ‎по‏ ‎западным ‎образцам,‏ ‎будет ‎силовое‏ ‎соперничество ‎вне ‎правового ‎поля.

МИД ‎РФ‏ ‎делает‏ ‎всё,‏ ‎чтобы ‎вернуть‏ ‎международное ‎взаимодействие‏ ‎в ‎правовое‏ ‎поле‏ ‎— ‎чтобы‏ ‎тема ‎ИИ ‎тяготела ‎к ‎сотрудничеству,‏ ‎как ‎другие‏ ‎темы.‏ ‎В ‎соперничестве ‎и‏ ‎конкуренции ‎плохого‏ ‎нет. ‎Но ‎пока ‎всё‏ ‎сваливается‏ ‎в ‎борьбу‏ ‎и ‎агрессию.

Только‏ ‎что ‎принята ‎первая ‎резолюция ‎ООН,‏ ‎целиком‏ ‎посвящённая ‎ИИ.‏ ‎Вторая ‎сессия‏ ‎— ‎про ‎международное ‎сотрудничество ‎в‏ ‎области‏ ‎ИИ.

Прошёл‏ ‎Саммит ‎будущего‏ ‎в ‎Нью-Йорке‏ ‎Результат ‎пока‏ ‎неоднозначный,‏ ‎но ‎подписан‏ ‎Международный ‎Цифровой ‎договор.

Такие ‎же ‎процессы‏ ‎идут ‎в‏ ‎БРИКС‏ ‎и  ‎в ‎СНГ‏ ‎(вчера ‎опубликовано‏ ‎заявление ‎от ‎лидеров ‎СНГ‏ ‎—‏ ‎подписано ‎соглашение‏ ‎об ‎гражданском‏ ‎ИИ, ‎первый ‎такой ‎документ ‎на‏ ‎пространстве‏ ‎СНГ).

Были ‎разные‏ ‎представления, ‎противоречивые‏ ‎подходы, ‎но ‎в ‎итоге ‎есть‏ ‎соглашение.‏ ‎Там‏ ‎есть ‎этика‏ ‎нейросетей, ‎регулирование‏ ‎и ‎саморегулирование‏ ‎ИИ,‏ ‎есть ‎прямое‏ ‎указание ‎на ‎Кодекс ‎Этики. ‎Церемония‏ ‎подписания ‎некоторыми‏ ‎участниками‏ ‎будет ‎здесь ‎же,‏ ‎позже.

Да, ‎можно‏ ‎бояться, ‎что ‎ИТ-гиганты ‎отодвинут‏ ‎этику‏ ‎на ‎второй‏ ‎план. ‎Надеемся,‏ ‎что ‎этого ‎не ‎произойдёт, ‎темпы‏ ‎развития‏ ‎стимулируют ‎дискуссии.

Вот‏ ‎недавно ‎мы‏ ‎посещали ‎офис ‎нашего  ‎флагмана ‎ИИ,‏ ‎смотрели‏ ‎разработанное‏ ‎ПО. ‎Они‏ ‎предлагали ‎свои‏ ‎продукты ‎МИДу.‏ ‎В‏ ‎том ‎числе‏ ‎генерацию ‎голоса ‎спикера, ‎где ‎всё‏ ‎идеальное ‎—‏ ‎тональность,‏ ‎тембр, ‎интонация ‎и‏ ‎эмоции. ‎Это‏ ‎нужно, ‎чтобы ‎заменять ‎уставших‏ ‎от‏ ‎публичной ‎жизни‏ ‎спикеров. ‎Вот,‏ ‎например, ‎у ‎меня ‎уже ‎садится‏ ‎голос!

Но‏ ‎это ‎ведь‏ ‎прямая ‎дорога‏ ‎к ‎дипфейкам! ‎Как ‎только ‎мы‏ ‎покажем‏ ‎всем,‏ ‎что ‎так‏ ‎можно ‎—‏ ‎озвучивать ‎позицию,‏ ‎смыслы‏ ‎автоматически, ‎все‏ ‎бросятся ‎так ‎делать ‎в ‎политической‏ ‎сфере. ‎Что‏ ‎же‏ ‎делать? ‎Казнить ‎нельзя‏ ‎помиловать. ‎Надо‏ ‎понять, ‎где ‎поставить ‎запятую.‏ ‎Технологий-то‏ ‎много, ‎но‏ ‎где ‎применять‏ ‎и ‎как? ‎Какие ‎антидоты ‎вырабатывать?

Этим‏ ‎должны‏ ‎заниматься ‎те,‏ ‎кто ‎вырабатывает‏ ‎этику. ‎Коллеги ‎— ‎молодцы! ‎Наш‏ ‎российский‏ ‎вклад‏ ‎в ‎этику‏ ‎ИИ ‎—‏ ‎уникален. ‎Нужно‏ ‎насыщать‏ ‎технологии ‎ИИ-этикой,‏ ‎плечом ‎к ‎плечу ‎с ‎практиками,‏ ‎учёными. ‎Сохранить‏ ‎этическую‏ ‎политику ‎и ‎повестку.

Наквасин. Важно‏ ‎вырабатывать ‎доверие‏ ‎общества ‎к ‎технологиям. ‎При‏ ‎создании‏ ‎Кодекса  ‎в‏ ‎2021 ‎было‏ ‎столкновение ‎математиков, ‎романтиков ‎ИИ ‎(за‏ ‎мягкое‏ ‎регулирование), ‎и‏ ‎представителей ‎общественности‏ ‎(чтобы ‎не ‎было ‎как ‎в‏ ‎фильме‏ ‎«Терминатор»,‏ ‎не ‎допустить‏ ‎катастрофического ‎сценария).‏ ‎Но ‎грамотность‏ ‎населения‏ ‎в ‎области‏ ‎ИИ ‎возросла, ‎мы ‎теперь ‎понимаем‏ ‎и  ‎риски,‏ ‎и‏ ‎возможности.

Попросим ‎советника ‎Президента‏ ‎и ‎главу‏ ‎СПЧ ‎Фадеева.

Валерий ‎Фадеев ‎(советник‏ ‎Президента,‏ ‎глава ‎Совета‏ ‎по ‎развитию‏ ‎гражданского ‎общества ‎и ‎правам ‎человека): спасибо‏ ‎за‏ ‎вопрос, ‎СПЧ‏ ‎интересуется ‎темой‏ ‎ИТ ‎шире, ‎цифровизацией ‎вообще, ‎мы‏ ‎разрабатываем‏ ‎концепции,‏ ‎регулярно ‎докладываем‏ ‎Президенту.

Мы ‎сейчас‏ ‎отстаём ‎от‏ ‎реалий‏ ‎очень ‎сильно.‏ ‎Кодекс ‎этики  ‎— ‎хорошо. ‎Но‏ ‎всё ‎равно‏ ‎сильно‏ ‎отстаём ‎от ‎реальной‏ ‎жизни.

Вот ‎смотрите.‏ ‎По ‎данным ‎МВД, ‎за‏ ‎год‏ ‎в ‎России‏ ‎было ‎суммарно‏ ‎48 ‎тысяч ‎краж, ‎квартирных ‎и‏ ‎уличных.‏ ‎И ‎при‏ ‎этом ‎—‏ ‎1 ‎600 ‎000 ‎списаний ‎денег‏ ‎мошенниками,‏ ‎то‏ ‎есть ‎в‏ ‎34 ‎раза‏ ‎больше ‎киберпреступлений.‏ ‎Кражи‏ ‎в ‎реальном‏ ‎мире ‎составляют ‎3%.

Сбербанк ‎прогнозирует, ‎что‏ ‎будет ‎украдено‏ ‎у‏ ‎граждан ‎300 ‎миллиардов‏ ‎в ‎2024.

Ну,‏ ‎можно ‎сказать, ‎это ‎же‏ ‎плата‏ ‎за ‎прогресс?‏ ‎Тогда ‎нужно‏ ‎спросить: ‎а ‎что ‎тогда ‎прогресс?

Вот‏ ‎возьмём‏ ‎систему ‎FacePay‏  ‎в ‎московском‏ ‎метро. ‎За ‎три ‎года ‎в‏ ‎системе‏ ‎зарегистрировалось‏ ‎примерно ‎триста‏ ‎тысяч ‎москвичей.‏ ‎Из ‎15‏ ‎млн‏ ‎пользующихся ‎метро,‏ ‎то ‎есть ‎2%. ‎Это ‎что,‏ ‎прогресс?

А ‎вот‏ ‎само‏ ‎метро, ‎когда ‎его‏ ‎прокопали, ‎электричество,‏ ‎провода, ‎динамо-машины, ‎электропоезда, ‎эскалаторы,‏ ‎пробиватели‏ ‎туннелей. ‎Это‏ ‎был ‎реальный‏ ‎технологический ‎прорыв. ‎Вот ‎это ‎—‏ ‎прогресс.‏ ‎Реально ‎меняющий‏ ‎жизнь.

И ‎вдруг‏ ‎вы ‎говорите, ‎что ‎это ‎всё‏ ‎ерунда,‏ ‎а‏ ‎вершина ‎прогресса‏ ‎— ‎платить‏ ‎лицом. ‎Для‏ ‎2%.‏ ‎Это ‎же‏ ‎комично.

Ну ‎и ‎вот ‎теперь ‎прогресс‏ ‎— ‎это‏ ‎генеративные‏ ‎нейронные ‎сети. ‎Они‏ ‎якобы ‎могут‏ ‎писать ‎тексты ‎за ‎журналистов?‏ ‎А‏ ‎зачем? ‎Доливать‏ ‎ручейки ‎шлака‏ ‎в ‎общий ‎септик ‎Интернета?

Говорят, ‎давайте‏ ‎искусственный‏ ‎интеллект ‎будет‏ ‎писать ‎тексты‏ ‎за ‎журналистов. ‎А ‎зачем? ‎Это‏ ‎же‏ ‎чушь.‏ ‎Журналист ‎—‏ ‎это ‎профессия.‏ ‎Если ‎начинающие‏ ‎журналисты‏ ‎не ‎будут‏ ‎писать ‎простые ‎тексты, ‎то ‎они‏ ‎никогда ‎не‏ ‎станут‏ ‎опытными ‎журналистами. ‎Ниагары‏ ‎информационного ‎мусора‏ ‎в ‎Интернете, ‎теперь ‎давайте‏ ‎ещё‏ ‎ИИ ‎будет‏ ‎дополнять ‎их‏ ‎своими ‎ручьями.

Базовая ‎функция ‎журналиста ‎—‏ ‎поехать‏ ‎туда, ‎где‏ ‎произошло ‎событие,‏ ‎поговорить ‎с ‎людьми, ‎понять ‎смысл‏ ‎произошедшего,‏ ‎хорошим‏ ‎языком ‎это‏ ‎изложить. ‎ИИ‏ ‎не ‎может‏ ‎же‏ ‎поехать ‎на‏ ‎место ‎событий, ‎опросить ‎участников, ‎очевидцев,‏ ‎и ‎т.‏ ‎п.

Мы‏ ‎на ‎протяжении ‎24‏ ‎лет ‎читаем‏ ‎репортажи ‎Андрея ‎Колесникова  ‎из‏ ‎президентского‏ ‎пула ‎в‏ ‎«Коммерсанте» ‎о‏ ‎событиях, ‎связанных ‎с ‎Президентом ‎России.‏ ‎Колесникова‏ ‎можно ‎заменить‏ ‎искусственным ‎интеллектом?‏ ‎Вы ‎готовы ‎читать ‎вместо ‎него‏ ‎новости‏ ‎ЧатЖПТ?‏ ‎Это ‎смешно!

Или‏ ‎вот ‎«Кандинский»‏ ‎и ‎прочие.‏ ‎Рисуют‏ ‎картинки. ‎Ну‏ ‎это ‎же ‎гламурная ‎пошлятина. ‎Потому‏ ‎что ‎в‏ ‎интернетах‏ ‎—  ‎массовая ‎гламурная‏ ‎пошлятина.

ИИ ‎нужен‏ ‎где? ‎Промышленность, ‎война. ‎Вот‏ ‎там‏ ‎— ‎пожалуйста.‏ ‎Эти ‎задачи‏ ‎не ‎несут ‎социальных ‎рисков. ‎Здесь‏ ‎можно.

А‏ ‎зачем ‎с‏ ‎ИИ ‎вторгаться‏ ‎в ‎социум? ‎Неприкосновенность ‎частной ‎жизни‏ ‎записана‏ ‎в‏ ‎вашем ‎Кодексе,‏ ‎а ‎до‏ ‎этого ‎—‏ ‎в‏ ‎Конституции. ‎Я‏ ‎лично ‎считаю, ‎что ‎должен ‎быть‏ ‎запрет ‎на‏ ‎автономные‏ ‎решения ‎ИИ. ‎И‏ ‎полный ‎запрет‏ ‎вмешательства ‎в ‎частную ‎жизнь.

Собраны‏ ‎гигантские‏ ‎массивы ‎данных‏ ‎про ‎каждого‏ ‎из ‎нас. ‎Безусловно, ‎для ‎того,‏ ‎чтобы‏ ‎манипулировать. ‎Моя‏ ‎точка ‎зрения,‏ ‎она ‎вам ‎покажется ‎мракобесной, ‎очень‏ ‎простая:‏ ‎запретить‏ ‎вообще ‎индивидуальный‏ ‎контакт ‎с‏ ‎человеком ‎в‏ ‎области‏ ‎торговли ‎с‏ ‎использованием ‎персональных ‎данных.

Сплошь ‎и ‎рядом‏ ‎звонят: ‎«Иван‏ ‎Петрович,‏ ‎мы ‎знаем, ‎что‏ ‎вы ‎интересуетесь‏ ‎китайскими ‎машинами, ‎мы ‎хотим‏ ‎предложить‏ ‎вам ‎скидку».‏ ‎Такой ‎звонок‏ ‎должен ‎рассматриваться ‎как ‎мошенничество, ‎и‏ ‎по‏ ‎его ‎поводу‏ ‎должно ‎возбуждаться‏ ‎уголовное ‎дело. ‎Это ‎вмешательство ‎в‏ ‎личную‏ ‎жизнь‏ ‎человека.

Вообще ‎это‏ ‎создание ‎прозрачности‏ ‎— ‎опасная‏ ‎манипуляция‏ ‎людьми, ‎природой‏ ‎человека. ‎Прошло ‎уже ‎15 ‎лет‏ ‎с ‎того‏ ‎времени‏ ‎когда ‎Цукерберг  ‎и‏ ‎Брин ‎(Цукербрин‏ ‎по ‎Пелевину), ‎выступили  ‎с‏ ‎декларацией‏ ‎«тайны ‎частной‏ ‎жизни ‎больше‏ ‎нет».

Что, ‎поверим ‎Цукербринам? ‎Частная ‎жизнь‏ ‎—‏ ‎это ‎одна‏ ‎из ‎основ‏ ‎человека. ‎Отмена ‎её ‎— ‎это‏ ‎глубокие‏ ‎антропологические‏ ‎изменения. ‎Неизвестные.‏ ‎Которые ‎изменят‏ ‎человека ‎неизвестным‏ ‎нам‏ ‎образом.

Мы ‎что‏ ‎— ‎готовы ‎отменить ‎эту ‎статью‏ ‎в ‎Конституции?

У‏ ‎нас‏ ‎нет ‎осознания ‎этих‏ ‎изменений, ‎нет‏ ‎базовой ‎философии. ‎Мы ‎не‏ ‎знаем,‏ ‎к ‎каким‏ ‎это ‎последствиям‏ ‎приведёт, ‎если  ‎не ‎будет ‎частной‏ ‎жизни.‏ ‎Пока ‎мы‏ ‎этого ‎не‏ ‎осознали ‎— ‎я ‎выступаю ‎на‏ ‎стороне‏ ‎Конституции.

Да,‏ ‎Кодекс ‎этики‏ ‎ИИ ‎—‏ ‎это ‎важно.‏ ‎Вы‏ ‎в ‎этом‏ ‎лидеры, ‎как ‎сказала ‎Захарова. ‎Хорошо.

Но‏ ‎дальше ‎нужно‏ ‎переводить‏ ‎этические ‎правила ‎в‏ ‎правовые. ‎Нежно,‏ ‎аккуратно, ‎но ‎в ‎конечном‏ ‎счёте‏ ‎— ‎в‏ ‎законы. ‎Совет‏ ‎по ‎правам ‎человека ‎готов ‎в‏ ‎этом‏ ‎помочь.

Наквасин. Приглашаю ‎Андрея‏ ‎Белевцева. ‎В‏ ‎2020 ‎году ‎Андрей ‎поддержал ‎создание‏ ‎Кодекса‏ ‎от‏ ‎экспертной ‎группы.‏ ‎Сейчас ‎он‏ ‎представитель ‎Сбербанка.‏ ‎Один‏ ‎из ‎самых‏ ‎технологических ‎банков ‎мира! ‎Как ‎вы‏ ‎применяете ‎этику‏ ‎в‏ ‎технологиях, ‎чем ‎это‏ ‎вам ‎помогает?

Андрей‏ ‎Белевцев ‎(глава ‎разработки ‎ИИ‏ ‎в‏ ‎Сбербанке): Любая ‎технология‏ ‎меняет ‎жизнь.‏ ‎Можно ‎применять ‎в ‎добро ‎и‏ ‎во‏ ‎зло. ‎По‏ ‎миру ‎распространяется‏ ‎выражение ‎AI ‎in ‎for ‎good!‏ ‎ИИ‏ ‎для‏ ‎добра! ‎Мы‏ ‎за ‎это.

Генеративные‏ ‎модели ‎—‏ ‎это‏ ‎революция. ‎12‏ ‎миллионов ‎пользователей ‎используют ‎сервис ‎«Кандинский»,‏ ‎22 ‎миллиона‏ ‎—‏ ‎Гигачат. ‎Сгенерировано ‎уже‏ ‎200 ‎миллионов‏ ‎картинок. ‎Почему ‎люди ‎делают‏ ‎это?‏ ‎Им ‎это‏ ‎нужно!

Но ‎да,‏ ‎мошенники ‎всегда  ‎на ‎шаг ‎впереди.‏ ‎Они‏ ‎ищут ‎по‏ ‎миру ‎технологии,‏ ‎инструменты ‎для ‎мошенничества. ‎А ‎технологий,‏ ‎инструментов‏ ‎в‏ ‎мире  ‎—‏ ‎много.

Но ‎это‏ ‎— ‎ответственность‏ ‎исключительно‏ ‎мошенников. ‎Кто-то‏ ‎произвёл ‎фомку, ‎а ‎кто-то ‎вскрыл‏ ‎квартиру ‎или‏ ‎машину.‏ ‎Фомка ‎и ‎её‏ ‎производитель ‎ни‏ ‎в ‎чём ‎не ‎виноваты!

Но‏ ‎саморегулирование‏ ‎нужно! ‎Мы‏ ‎в ‎Альянсе‏ ‎подписали ‎Декларацию ‎об ‎ответственной ‎разработке‏ ‎генеративного‏ ‎ИИ. ‎На сайте‏ ‎Альянса ‎ИИ можно‏ ‎почитать. ‎Присоединяйтесь. ‎Так ‎мы ‎сделаем‏ ‎наш‏ ‎мир‏ ‎безопаснее.

Польза ‎ИИ‏ ‎драматически ‎перевешивает‏ ‎риски! ‎Генеративные‏ ‎модели‏  ‎— ‎это‏ ‎первые ‎шаги. ‎А ‎если ‎применять‏ ‎в ‎медицине!‏ ‎Для‏ ‎анализа ‎всего, ‎что‏ ‎есть ‎о‏ ‎больном ‎— ‎анализов, ‎анамнеза,‏ ‎снимков!

А‏ ‎генерация ‎лекарств.‏ ‎Они ‎же‏ ‎будут ‎дешевле! ‎Почему ‎лекарства ‎дорогие?‏ ‎Очень‏ ‎дорог ‎анализ‏ ‎молекул ‎новых‏ ‎лекарств, ‎а ‎также ‎испытания. ‎ИИ‏ ‎даёт‏ ‎сокращение‏ ‎времени ‎на‏ ‎испытания ‎и‏ ‎анализ ‎свойств‏ ‎молекул‏ ‎иногда ‎с‏ ‎нескольких ‎лет ‎до ‎нескольких ‎дней!‏ ‎Значит, ‎цены‏ ‎будут‏ ‎ниже ‎для ‎больных‏ ‎людей!

Про ‎принятие‏ ‎решений. ‎У ‎кого ‎из‏ ‎вас‏ ‎есть ‎автомобильные‏ ‎права? ‎Ну‏ ‎вот, ‎у ‎половины. ‎Вы ‎же‏ ‎понимаете,‏ ‎что ‎последние‏ ‎15 ‎лет‏ ‎сам ‎автомобиль ‎принимает ‎решение, ‎тормозить‏ ‎или‏ ‎нет.‏ ‎ABS ‎и‏ ‎всё ‎такое!

(Крики‏ ‎из ‎зала:‏ ‎«Это‏ ‎неверно!»).

Ближайшие ‎перспективы‏ ‎— ‎агенты ‎и ‎… ‎пока‏ ‎не ‎переведено‏ ‎на‏ ‎русский ‎… ‎овеществление‏ ‎ИИ! ‎(просто‏ ‎пересказывает ‎Шмидта ‎про ‎agents‏ ‎и‏  ‎text ‎to‏ ‎action). Их ‎нужно‏ ‎испытывать, ‎сертифицировать!

ИИ ‎— ‎это ‎огромный‏ ‎толчок‏ ‎для ‎экономики.‏ ‎Эксперты ‎оценивают,‏ ‎что ‎в ‎ближайшие ‎годы ‎ИИ‏ ‎даст‏ ‎плюс‏  ‎3% ‎к‏ ‎мировому ‎ВВП‏ ‎— ‎это‏ ‎от‏ ‎генеративного ‎ИИ.‏ ‎Это ‎больше ‎ВВП ‎России!

Про ‎требование‏ ‎маркировки. ‎Вот‏ ‎мы‏ ‎скоро ‎выложим ‎распознаватель‏ ‎искусственных ‎текстов‏ ‎и ‎человеческих. ‎Надо ‎помогать‏ ‎людям‏ ‎отличать.

Надо, ‎конечно,‏ ‎маркировать. ‎Хотя,‏ ‎фотки ‎на ‎вашей ‎мобиле ‎всегда‏ ‎применяют‏ ‎фильтры ‎ИИ.‏ ‎Они ‎всегда‏ ‎срабатывают, ‎если ‎специально ‎не ‎отключить.‏ ‎Красотища‏ ‎же!‏ ‎Вы ‎же‏ ‎не ‎отказываетесь!

Нужно,‏ ‎чтобы ‎плюсы‏ ‎превышали‏ ‎риски. ‎Для‏ ‎этого ‎риски ‎надо ‎закладывать ‎на‏ ‎этапе ‎проектирования.

Фадеев: зачем‏ ‎нужно‏ ‎нагенерить ‎текст, ‎а‏ ‎затем ‎его‏ ‎отличать ‎от ‎настоящего? ‎Это‏ ‎же‏ ‎как ‎крабовый‏ ‎салат ‎и‏ ‎салат ‎из ‎«крабовых ‎палочек», ‎разница‏ ‎в‏ ‎пять ‎раз‏ ‎по ‎цене.‏ ‎И ‎по ‎вкусу.

Белевцев: Есть ‎же ‎разные‏ ‎сценарии!‏ ‎Ну‏ ‎вот ‎можно‏ ‎же ‎поручить‏ ‎подготовить ‎выступление‏ ‎или‏ ‎совещание! ‎Больше‏ ‎идей ‎для ‎мозгового ‎штурма.

Фадеев: тогда ‎это‏ ‎интеллектуальный ‎поисковик,‏ ‎а‏ ‎не ‎самостоятельно ‎плавающий‏ ‎текст. ‎Промежуточные‏ ‎инструменты.

Захарова: нужно ‎кодифицировать ‎маркировку ‎текстов‏ ‎ИИ.‏ ‎Везде, ‎со‏ ‎ссылкой ‎—‏ ‎студент, ‎доцент, ‎учёный, ‎диплом, ‎кандидатская,‏ ‎монография,‏ ‎художественный ‎текст‏ ‎— ‎везде‏ ‎сноска, ‎что ‎сделано ‎ИИ. ‎Оформить‏ ‎это‏ ‎законодательно.‏ ‎И ‎вот‏ ‎тут ‎же‏ ‎заработает ‎такая‏ ‎саморегуляция‏ ‎— ‎залюбуешься.‏ ‎Граждане ‎сами ‎будут ‎решать, ‎хотят‏ ‎ли ‎они‏ ‎читать‏ ‎искусственное.

Сейчас ‎регуляции ‎нет.‏ ‎Будут ‎массово‏ ‎выпускаться ‎искусственные ‎учебники, ‎пособия‏ ‎для‏ ‎несовершеннолетних. ‎Сначала‏ ‎на ‎равных‏ ‎с ‎настоящими ‎текстами. ‎Но ‎потом‏ ‎они‏ ‎начнут ‎заполнять‏ ‎пространство ‎настолько,‏ ‎что ‎сами ‎станут ‎базой ‎для‏ ‎следующего‏ ‎этапа‏ ‎обучения ‎ИИ,‏ ‎для ‎принятия‏ ‎решений ‎и‏ ‎использования‏ ‎для ‎учебников.‏ ‎Отличить ‎уже ‎будет ‎нельзя.

Нужно ‎вводить‏ ‎сноску ‎везде‏ ‎—‏ ‎в ‎том ‎числе‏ ‎в ‎рекламу.

Наквасин: пригласим‏ ‎Александра ‎Крайнова, ‎он ‎евангелист‏ ‎ИИ.‏ ‎Вот ‎вчера‏ ‎Нобеля ‎дали‏ ‎как ‎бы ‎по ‎физике, ‎но‏ ‎за‏ ‎ИИ. ‎Расскажите.

Крайнов: кратко‏ ‎про ‎нобелевскую‏ ‎историю: ‎вообще ‎комьюнити ‎в ‎шоке.‏ ‎Взяты‏ ‎два‏ ‎достойных ‎человека,‏ ‎из ‎немногих‏ ‎в ‎сообществе‏ ‎ИИ,‏ ‎но ‎не‏ ‎самые ‎главные ‎гении. ‎Но ‎они‏ ‎точно ‎не‏ ‎имеют‏ ‎отношения ‎к ‎физике.

Нобелевских‏ ‎премий ‎за‏ ‎математику ‎или ‎информатику ‎—‏  ‎нет.‏ ‎Ну ‎вот‏ ‎дали ‎за‏ ‎физику. ‎При ‎этом ‎наградили ‎за‏ ‎то,‏ ‎что ‎сделано‏ ‎вообще ‎в‏ ‎80-е ‎годы. ‎Ну,  ‎что ‎получилось,‏ ‎то‏ ‎получилось.

К‏ ‎этике. ‎Надо‏ ‎сказать, ‎что‏ ‎ИИ ‎—‏ ‎это‏ ‎сквозные ‎технологии,‏ ‎как ‎электричество, ‎как ‎персональные ‎компьютеры‏ ‎и ‎Интернет.‏ ‎Сначала‏ ‎на ‎них ‎только‏ ‎печатали ‎и‏ ‎играли ‎в ‎игрушки. ‎Потом‏ ‎начали‏ ‎работать. ‎Такие‏ ‎вещи ‎незаметно‏ ‎улучшают ‎эффективность, ‎постепенно, ‎повседневно.

Да, ‎генеративный‏ ‎ИИ‏ ‎— ‎пока‏ ‎игрушка. ‎Потом‏ ‎доползёт ‎до ‎медицины, ‎науки, ‎поможет‏ ‎изучать‏ ‎работы‏ ‎предшественников, ‎сделать‏ ‎своё. ‎Будет‏ ‎бустом ‎для‏ ‎всех!

ИИ‏ ‎— ‎всегда‏ ‎вероятностный. ‎Он ‎не ‎даёт ‎100%‏ ‎качества. ‎Разработчик‏ ‎не‏ ‎может ‎исправить ‎ошибки.‏ ‎Он ‎может‏ ‎сделать ‎так, ‎что ‎следующая‏ ‎версия‏ ‎будет ‎лучше.‏ ‎Монетка ‎же‏ ‎не ‎падает ‎одинаково, ‎даже ‎если‏ ‎две‏ ‎одинаковые ‎стороны.‏ ‎Нет ‎гарантий.‏ ‎Ответ ‎у ‎ИИ ‎— ‎всегда‏ ‎разный.‏ ‎Можно‏ ‎постоянно ‎замерять‏ ‎качество.

Так ‎что‏ ‎нужно ‎иметь‏ ‎чёткие‏ ‎цели ‎и‏ ‎измерения. ‎Нужно ‎вычислять ‎стоимость ‎ошибки.‏ ‎Больше ‎ли‏ ‎ошибка‏ ‎без ‎ИИ ‎или‏ ‎меньше?

Вопросы, ‎на‏ ‎которые ‎не ‎отвечали: ‎вот,‏ ‎допустим,‏ ‎надо ‎взять‏ ‎за ‎образец‏ ‎для ‎ИИ ‎самого ‎этичного ‎человека!‏ ‎На‏ ‎планете! ‎Где‏ ‎он?

Из ‎зала:

Ашманов: Иисус‏ ‎Христос ‎чем ‎тебя ‎не ‎устраивает?

Крайнов:‏ ‎А,‏ ‎ну,‏ ‎устраивает. ‎Но‏ ‎это ‎же‏ ‎в ‎рамках‏ ‎одной‏ ‎религии!

Ашманов: ‎Ну‏ ‎возьми ‎Мохаммеда ‎для ‎мусульман.

В ‎общем,‏ ‎если ‎работать‏ ‎по‏ ‎инструкции, ‎человек ‎или‏ ‎ИИ ‎—‏ ‎всё ‎равно ‎будут ‎люфты,‏ ‎непредвиденные‏ ‎ситуации. ‎Никакая‏ ‎инструкция ‎не‏ ‎даёт ‎100% ‎исполнения. ‎Этика ‎нужна‏ ‎при‏ ‎любой ‎инструкции!

Дальше‏ ‎были ‎выступления‏ ‎иностранцев. ‎Там ‎всё ‎было ‎совершенно‏ ‎дежурное.‏ ‎Просто‏ ‎рассказ ‎«а‏ ‎вот ‎у‏ ‎нас».

Потом, ‎после‏ ‎перерыва,‏ ‎начались ‎выступления‏ ‎«в ‎стиле ‎TED». ‎7 ‎минут,‏ ‎7 ‎слайдов.‏ ‎Я‏ ‎в ‎свою ‎очередь‏ ‎выступил, ‎ниже‏ ‎моя ‎презентация ‎из ‎семи‏ ‎слайдов:

В‏ ‎общем, ‎всё‏ ‎предсказуемо, ‎80%‏ ‎чистой ‎рекламы ‎ИИ ‎и ‎цифровизации‏ ‎(и‏ ‎это ‎на‏ ‎форуме ‎«про‏ ‎этику») ‎—  ‎ИИ ‎это ‎инновационно,‏ ‎полезно,‏ ‎«буст‏ ‎экономики», ‎людям‏ ‎нужно, ‎но‏ ‎они ‎пока‏ ‎не‏ ‎понимают, ‎давайте‏ ‎их ‎обучать, ‎возложим ‎на ‎них‏ ‎ответственность, ‎а‏ ‎не‏ ‎только ‎на ‎разработчиков,‏ ‎надо ‎вообще‏  ‎«стирать ‎грань ‎между ‎человеком‏ ‎и‏ ‎ИИ» ‎(точная‏ ‎цитата ‎из‏ ‎одного ‎из ‎семиминутных ‎выступлений).

Камлания ‎типа‏ ‎«всё‏ ‎равно ‎уже‏ ‎всё ‎открыто»,‏ ‎«мы ‎уже ‎отдали ‎все ‎свои‏ ‎медицинские‏ ‎данные».‏ ‎Ну ‎и‏ ‎тому ‎подобное.

А‏ ‎скоро ‎будет‏ ‎AI‏ ‎Jorney ‎от‏ ‎Грефа. ‎Там ‎вообще ‎будет ‎безумие.