МИНУТКА науч-слопа

Они уже везде.

Я, ув. друзья, пережил на выходных занятный опыт. Включив по привычке перед сном некий научно-популярный фильм с ВК (закадровый голос плюс иллюстративная фотовидеонарезка), обещавший мне рассказать об эволюции позвоночных - я вдруг прямо сквозь дрёму начал удивляться "что ты блин такое несёшь".

Там были птицы, "произошедшие от псовых".

Там был загадочный скат "длиной 3 метра 100 сантиметров".

Там была змеевидная безногая ящерка двуходка, обозванная "сохранившимся до наших дней млекопитающим".

Одним словом, это был первый случай, когда я встретил ИИ-творчество в научпопе со всеми его галлюцинациями.

И, как сообщается, это сейчас растущая проблема не только (и не столько даже) в масс-маркете, сколько в реально научной прессе и литературе. Свежая статья в Observer:

"В конце прошлого года редактор научного журнала Бен Уильямсон читал многообещающую статью, отправленную в редакцию, и заметил своё имя в сноске. Она была прикреплена к исследованию под названием «Образование, управление и датафикация». Звучало достаточно правдоподобно. Статья была посвящена его области знаний — цифровому образованию; в качестве соавторов были указаны люди, с которыми он действительно сотрудничал; и, казалось, она была опубликована одним из самых уважаемых издательств в академической среде.

Но Уильямсон-то точно знал, что это фейк. Как редактор журнала, он уже был знаком с растущей проблемой: чат-боты с искусственным интеллектом, которые «галлюцинируют» ссылки на несуществующие статьи. Однако то, что он обнаружил дальше, было ещё более странным.

Когда Уильямсон поискал фантомную статью в интернете, он говорит, что она «обрела собственную жизнь». Согласно Google Scholar, несуществующая статья была процитирована более 70 раз в других журналах — и даже в одной книге. В день нашего разговора он только что получил текстовое сообщение от коллеги-ученого: студент сослался на это исследование в статье об использовании ИИ в образовании – «неприятный поворот в конце этой истории», – говорит он".

"Научслоп" сейчас составляет растущий процент в общей массе статей - некоторые оценивают его уже в 15-20%. Что ещё веселее, сообщает нам Scientific American, ИИшки разных гигантов сговорились и теперь массово ссылаются на несуществующие научные журналы, исследования и публикации.

В итоге мир некоторым образом стоит перед офигенной перспективой: каждый первый раз, когда мы заходим в интернеты, мы с каждым днём всё сильней рискуем напороться на нерукотворный бред неутомимых роботов.

Что, в свою очередь, лишний раз подчеркнёт красненьким идею о том, что времена халявы всё и теперь каждому из нас придётся быть в ответе за те знания, которые мы получили.