Научный эксперт запрягает рабов и показывает, как правильно генерировать рецензии.

Одним из самых неискоренимых пороков человека является лень. Но это не та лень, что заставляет людей изощряться и подталкивает креативить. Например, гениальная идея — прикручивание к чемодану колес (не сразу догадались). Я говорю про ту лень, которая про бездействие, а иногда еще хуже — замену того, что следует сделать, на более приятное, бесхитростное и требующее минимума усилий, занятие.

Почему же так случается?

Физика предоставляет богатое множество способов описания всего, что происходит вокруг нас. Если вас спросят, почему эволюция сложной системы пошла по определенному пути, можете смело отвечать, что ей так было энергетически выгодно.

-Почему металл стал ферромагнитным при достижении определенной температуры?

-Почему вода превратилась в лед?

-Почему люди постоянно пытаются избегать усилий?

-Потому что, так энергетически выгодно.

Недавно нам поступили 2 рецензии на нашу научную статью. Читая замечания, я тут же почувствовал что-то неладное. Одна из рецензий с вероятностью близкой к 100 % была сгенерирована ЛЛМ полностью. Это даже не был скорректированный моделью текст, это был самый настоящий нейрослоп.

У меня нет точных доказательств, есть только косвенные. Моя насмотренность, а также всевозможные определители сгенерированного текста выставляют вердикт — нейроген 99,9%.

Люди так не пишут.

Любой текст содержит информацию о своем авторе, если читать внимательно, то можно многое узнать. Я читал достаточное количество критикующих мою работу текстов. И везде я могу выделить одну кричащую особенность: все они пропитаны жгучим негодованием. Зачастую некоторая недоброжелательность с ехидством характерна для рецензий из-за того, что изучивший вашу работу эксперт, потративший несколько часов своей жизни на вдумчивое изучение вашего творчества, под конец вашей статьи, как правило, оказывается очень уставшим и злым. Ведь он/она нашел несколько принципиальных проблем и множество мелких неточностей. Поэтому яд будет сочиться сквозь его взволнованные строки. И это нормально, это по-людски.

Мы получили 2 рецензии, кстати.

В отличие от сгенерированной, вторая не вызывала у меня ни доли сомнения в том, что ее писал человек. Замечания в ней были конкретные, они ссылались на определенные страницы, параграфы, подписи к рисункам. Сделать исправления на каждый запрос рецензента (необходимо ответить и исправить все, что рецензент просит, не пропустив ни единого пункта, иначе — отказ в публикации с огромной вероятностью) посильная задача, так как его вопросы предельно ясны.

Вторая же рецензия была полной противоположностью. Впервые мы получили такую. В ней замечания были написаны без доли ненависти, что сразу странно. Обороты и речевая избыточность зашкаливали. Одно из замечаний скорее всего было написано из-за того, что у ЛЛМ не хватило токенов на весь документ, так как все разъяснения были в конце, в секции саплементал, до куда нейронка не добралась. Безусловно, человек тоже мог пропустить информацию в конце манускрипта. Но проблема в том, что человека по ту сторону нельзя разглядеть. Оттуда виднеется добрый робот, уважительно указывающий на недочеты. Критически не хватало конкретики, типа:

«Сделайте более физически, а то у вас тут много про машинное обучение, а про физику мало».

Я понимаю, почему так происходит. Слоп уже везде: в сми, музыке, видео. Глупо было ожидать, что он не доберется до науки. Нет сил читать все эти заумные и душные тексты, хочется по-быстрому разобраться с делами, не вникая в суть. Почему так поступают и с гарантией будут поступать эксперты, проверяющие статьи, — у меня нет никаких вопросов. Ведь лень — интернациональна и свойственна всем: и профессионалам и дилетантам.

На самом деле, модели не привнесли ничего нового, они не поменяли правила игры. Аспирантами мы приходили зелеными и наивными, думая, что будем делать великие и полезные вещи. Оказалось иначе. Наука еще до ЛЛМ была переполнена зомби-исследованиями, целью которых было просто существовать опубликованными.

Так же как и интернет был переполнен текстами, музыкой и видео. Магазины приложений еще до засилия нейронок пухли от всевозможных трекеров калорий и туду листов. Изобилие уже существовало. ЛЛМки просто его уплотнили. Стоит ожидать, что изобилие станет еще жирнее (хотя куда уж?) в перспективе.

Наука тоже идет в минимум энергии.

Задачи и kpi для нас-исследователей принципиально не изменились с тех пор. Для отчетов надо пилить указанное количество статей, на которое вы с командой подписались. И система следует по пути наименьшего сопротивления.

Теперь можно радоваться, что появились такие удобные помощники, высвобождающие бесценное время для стоящих вещей.

А что такое действительно важные занятия, которые не поручишь делать рабу-«GPT»?

Я уже как-то упоминал на своем проекте то, что, не развивая навык анализа информации, мы постепенно утрачиваем его, становясь чуть более уязвимыми. Не вчитываясь, забивая на свои обязанности исследователя — непосредственно проводить исследования, отдавая это на аутсорс боту, по крупице мы подтачиваем свой ум. Когнитивные способности, обмазанные нашей ленью, которую мы пестуем, постепенно утрачиваются, ведь думать и запоминать теперь нам уже незачем. И это занятие мы с радостью добровольно поручим роботам. А потом будем спрашивать, почему нам платят меньше?

Сначала люди, чтобы упростить себе жизнь придумали книги. Это нехило так помогло.

Мы накопили внушительную коллекцию знаний. Но в этом нагромождении слов и предложений мы видим разное. Кто-то, видя гигантскую личную библиотеку, думает, что ее обладатель страшно умен. Хотя, сам владелец, возможно, видит в них «антибиблиотеку».

{Такой термин ввел Н. Н. Талеб для книг, которыми владеют, но не читают. Книги громоздятся, чтобы постоянно напоминать владельцу о его ограниченности, делая его более скромным по части кинуть понт о всезнании.}

У меня есть гипотеза, что люди слишком сильно поверили в свое всезнание. А это опасно. Современные технологии обманчиво уверяют нас в том, что теперь мы полностью осведомлены. Более того, любой чат бот отлизоблбюдит вам в процессе поиска информации так, что уже и делать ничего не захочется. Жизнь удалась.

По подписке или бесплатно у миллиардов человек появился свой надежный, льстящий раб, который все знает и всегда готов помочь (пока токены есть хе-хе). Есть подозрение, что дешевизна и доступность ЛЛМок не так уж дешево обойдется по итогу человечеству.

Что же в итоге дешевле? Купить энциклопедию, транслирующую нам все знания мира, освобождающую нас полностью от памяти и страданий, или же выучиться самому? Одной из основных опасностей я вижу то, что люди начнут самоуверенно думать, что бот и его ответы на все вопросы — это и есть их знания, которыми они обладают.

Некоторые и так уже в этом уверены, вообразив себя познавшими секреты вселенной. Люди впадают в мегаломанию, думая, что они избранные и обладают тайными и недоступными знаниями, которые всемогущий ИИ открыл им. Многие современники сидят в предвкушении, ожидая приход AGI, того самого генерального ИИ, способного исправить все проблемы и решить нерешаемые вопросы.

Но далеко не каждый является оптимистом.

Есть мнение, что сегодня приходится вызывать 60-летних пенсионеров в офис, чтобы интерпретировать код, написанный в пермском периоде на языках типа: Кобол, Фортран) Опус 4.7, к сожалению, с такими задачами пока не справляется. Нужны люди (мудрецы, как выходит), обладающие знаниями.

Вопросы, касающиеся познания, понтов, лени и самоуверенности, будоражат мир не одно тысячелетие. Человечество уже встречалось с похожими проблемами. Иногда я думаю, можно ли вообще написать и придумать, что-либо новое?

Приложу здесь цитату Сенеки:

Жил еще на нашей памяти богач Кальвизий Сабин. И по богатству своему, и по складу души это был настоящий вольноотпущенник. Никогда не видел я человека столь непристойного в своем блаженстве. Память у него была такая плохая, что он то и дело забывал имена Улисса, либо Ахилла, либо Приама, которых мы знаем не хуже, чем рабов, приставленных к нам с детства. Никакой старик-номенклатор, который вместо того, чтобы вспоминать имена, выдумывает их, не приветствовал граждан до того невпопад, как Сабин — троянцев и ахеян. А хотелось ему слыть знатоком. И вот какое средство он придумал: купив за большие деньги рабов, одного он заставил заучить Гомера, второго — Гесиода, еще девятерых распределил он по одному на каждого лирика. Чему удивляться, если они дорого обошлись ему? Ведь таких рабов не найти, их готовили для него на заказ. Собрав у себя эту челядь, стал он донимать гостей за столом. В изножье у него стояли слуги, у которых он спрашивал те стихи, что хотел прочесть, — и все-таки запинался на полуслове. Сателлий Квадрат, прихлебатель богатых глупцов, который перед ними пресмыкался и (ведь без того невозможно!) над ними насмехался, посоветовал ему поставить грамматиков сборщиками упавших объедков. А когда Сабин сказал, что каждый раб обошелся ему в сто тысяч. Квадрат отвечал: «Столько же книжных ларей ты мог бы купить дешевле!» Но тот все же упорно считал, что знания каждого из его домочадцев — это его знания.

Что использовать для решения дилеммы: делегировать или самому запоминать — вопрос личный. Кстати, можно спросить у ЛЛМки, что она думает на этот счет. Наверняка будет ответ, начинающийся с: «Это очень хороший вопрос…»

Пожалуй, выбор не такой уж богатый:

1) Книжный шкаф

2) Покорный обученный раб

Последствия выбора уже изложены в трудах двухтысячелетней давности.