greenfree2002

Среди прочих мероприятий на конференции была лекция о том, как хумансы обучают модель быть этичной. Лектор была из Гугла, но принципы, как я понимаю, примерно одинаковы для всех публичных топовых моделей. Специально нанятые разметчики формируют десятки тысяч пар «вопрос - этичный ответ», заставляют модель формировать общие принципы этичного ответа, и получают на выходе то что мы видим - модель приветлива, избегает возможности эмоционально травмировать, отказывается говорить на определенные темы и т.д. Лекция шла полтора часа. При этом ни разу не была затронута тема так называемого вранья галлюцинирования.

Обычно считается, что эта проблема техническая, которая скоро будет исправлена. Но это подмена: проблема чисто этическая. ChatGPT, схватывающий контекст на лету, отлично понимает, что когда ему задают вопрос «в какой статье Бурдье обсуждает тему XX» или «в каком судебном деле был создан прецедент YY», - пользователь просит указать название реальной статьи и дела, а не предположить, как могла бы гипотетически называться такая статья.* И вариантов решения задачи аж два: либо сгенерировать внутренний ответ и провести по нему фактчекинг (проверить в интернете существует ли такая статья, прочесть, составить абстракт и сопоставить с запрошенной темой телеги Бурдье), либо ответить «я не искал в Интернете (хотя способен, но жалко тратить ресурс), но могу сгенерировать название, которое правдоподобно звучит».

Но этого не делается. ИИ, с апломбом пандита, уверенно выдает свое экспертный ответ. И это не техническая ошибка, а, imao, чисто маркетинговые соображения. Модель, которая отвечает уверенно, лучше продается. Но про этого слона в комнате, даже на специальном семинаре по теме настройки этичности ИИ, не говорится ни слова.**
______

* Недавно в Израиле несколько крупных юридических фирм лишились лицензии, поскольку в их аргументах, поданных в Верховный Суд (!) были ссылки на несуществующие судебные дела - предположительно сгенерированные ИИ.

** Как принято в последнее время, я попросил высказаться на эту тему ChatGPT. Как он изящно сформулировал:

«Почему так:
Честная модель, говорящая:

"Я не знаю."
"Этого не существует."
"Нужно свериться с источником."

— кажется менее “умной”, “полезной”, “магической”, и потому хуже продаётся.

Маркетинг требует вау-эффекта:

“Спроси что угодно — и получи блестящий ответ.”

А правдивость подменяется впечатлением разумности.»

Арестович в последний год в своих интервью старается максимально говорить «то, что есть», не приукрашивая. При этом он, как рациональный человек, ищет смыслы и закономерности, а там где их нет - додумывает, создает, сам того не замечая. Все его разговоры про «консенсус большой пятерки игроков», заинтересованность Китая и Индии в восстановлении Украины, положительном влиянии прекращения войны на выборы в США и, как следствие, предсказываемое прекращение огня уже до выборов или максимум до нового года - тому пример. На мой взгляд, это всё конструирование той самой критикуемой им псевдореальности. С тем же успехом можно сказать, что Китай и Индия заинтересованы в инвестициях в восстановление Украины, поэтому чем больше Украина будет разрушена материально и организационно - тем лучше для них; следовательно, война продлится еще не менее года.

Я так не думаю. Мне кажется, что все участники конфликта действуют реактивно, в каждый момент просто реагируя на происходящее. План есть только у Путина, и он известен - «освободить» всю Донецкую и Луганскую области плюс сухопутный коридор в Крым. И война закончится ровно тогда, когда эта цель будет достигнута. Может, до этого нового года, а может до следующего. И закончится не «соглашением о прекращении огня» или «заморозкой по линии столкновения», а заявлением о завершении «СВО» в связи с достижением ее цели. У всех остальных игроков плана нет - они просто реагируют на всплывающие события - реагируют спонтанно, иногда абсурдно, всегда противоречиво.

Так мне кажется. Но возможно, Арестович правее. Посмотрим, осталось недолго: до выборов президента США - пресловутые «две-три недели».

Читаю академические статьи про жизнь евреев в разных странах Центральной Европы в межвоенный период. Это было время, когда этносы начинали как-то конструировать из себя нации, и евреи старались не отставать от других. Но способы конструирования в разных странах были разные - и это отличный пример увидеть, до какой же степени нация это конструкт.

В Польше и Литве, например, где процесс шел снизу (от меньшинств), основным критерием выбрали язык. Евреем признали всякого, кто говорит на еврейском языке. А поскольку слово «еврейский» на местном языке звучало как «Yidishe», то все, кто говорил на иврите, ладино или другом не-идише лойшен, могли идти лесом. А в Чехии, где процесс шел от государства, было принято решение, что к меньшинству относится любой, кто при переписи идентифицирует себя с этим меньшинством. Поэтому в переписях 1921 и в 1930 годов только примерно половина приверженцев иудаизма «оказались» евреями, а остальные идентифицировали себя как немцы или чехи. С другой стороны, несколько сотен человек, которые никак не относились к еврейскому этносу, тоже записали себя как евреев. И таки-да, почему бы и нет?

Вчера во время прогулки по берегу реки, видел юную пару с пёсиком, которого пытались научить приносить теннисный мяч. Песик не очень понимал, чего от него хотят: когда мяч бросали в его сторону, он радостно его хватал, стараясь опередить хозяина, но когда мяч кидали вбок, он философски провожал его взглядом и продолжал нюхать цветы. И тогда девушка, желая показать ему, что следует делать, бросила мяч и, подзывая песика, сама за мячом побежала. Парень крикнул ей на литовском: а ты-то чего бежишь за мячом? Девушка отшутилась: потому что я идентифицирую себя как собаку.

Обсуждаем всё это вечером с Дарьей за чаем. Интересно, говорю, что уже в 1921-м они осознали (причем не философы, а простые политики), что человек не «является» чем-то, а может выбирать, кем себя ощущать. Но всё-таки в определенных пределах: должны быть какие-то объективные показатели для выбора. Скажем, я могу идентифицировать себя как еврея или как украинца, но не как индейца.
- Но ты можешь идентифицировать себя как белку?
- Интересный вопрос. Если я буду публично идентифицировать себя как индейца, академическое сообщество меня осудит и заканселит. А если я буду открыто идентифицировать себя как белку… то оно меня тоже заканселит…
- … но уже по-другому, - заканчивает Дарья.

Обсуждаем с Дарьей предыдущий пост.
Д: Тут и в наше-то время сколько приходится прикладывать усилий чтобы убедительно притворяться теми, кем мы здесь стараемся притворяться.
:)

В дни, когда Хамас атакует Израиль, Азербайджан закрепляется в Арцахе, а Украина с трудом защищается от россии, всё чаще встречаются высказывания о том, что тут уж явно битва Добра со Злом, в которой Добро, несомненно, победит. Видеть этот «устаревший позитивистский подход» в 21-м веке прямо очень странно, особенно когда такое всерьез пишут люди мыслящие, и даже иногда рефлексирующие. Людям кажется, что эта реальность - Братство Кольца, в то время как она, скорее, Игра Престолов.

Постмодерн, вроде, давно уже объяснил, что нет Добра и Зла (как нет Холода и Тепла), а есть шкала градиента, на которой даже ноль чётко не выставлен. Что-то, находящееся выше по шкале, борется с чем-то, находящимся ниже, и далеко не всегда побеждает. Даже наоборот - то, что находится ниже, часто берет верх в короткой перспективе (это может быть день, год, или добрых 10 лет). А то что выше - иногда побеждает на длинной дистанции (тогда это называют торжеством справедливости). Но до конца этой дистанции единичный человек вполне может и не дожить.

И это еще в наиболее простой ситуации, когда противоборствующие стороны - субъекты одного порядка. А когда, например, люди борются с глобальным потеплением, тут как бы причина борется со следствием, и спрашивать, кто здесь большее зло, по-моему, бессмысленно.

И так понятно.

Розмовляв нещодавно зі своїм братом - доста патріотично налаштованим українцем, що живе зараз в Києві й добряче донатить на ЗСУ. Питаю його - якби тобі тре було читати семінар або курс для американських студентів про українську культуру, про що б ти в першу чергу розповідав?
Ну, каже, пісні там, одяг, їжа, архітектура, Шевченко знов таки, Сковорода, не знаю там…
А ти, - кажу йому - ти вважаєш себе носієм української культури?
- Та де там, - каже, - я ж пісні слухаю англомовні, Шевченко не читав, в мене навіть вишиванки немає, та й взагалі я не люблю націоналістів.

От же ж, думаю собі, так само, напевно, чи не більшість українців не розрізняє між етнічною і національною культурою.

Між тим, є дуже наочний приклад Ізраїлю, де ми з ним обидва трошки пожили. Є єврейська культура (їдишський театр та література ладіно, гефелте-фіш і вуха Амана, ашкеназські та сефардські релігійні традиції), а є ізраїльська. Це геть різні речі.

І якщо ти розмовляєш на івриті, встаєш при звуках ізраїльського гімну і твердо знаєш, чому не треба (а хоч би й треба) голосувати за Нетаньягу - то ти є носієм, окрім іншого, ізраїльської національної культури. Навіть якщо ти не любиш отой фалафель, не носиш маген-давід на шиї й жодного разу не читав Шолом-Алейхема.

І так само, якщо ти знаєш, за що стояв на Майдані, розумієш, чому пам’ятати про Голодомор важливо незалежно від того, чи був він геноцидом чи "просто" масовим вбивством, і бачиш кардинальну різницю між ПЦУ і УПЦ - то ти є носієм української культури. А вишиванки, кобзи і трембіти - то все лиш зовнішні символи, які можуть в тебе бути, а можуть і не бути. Тому що не борщ робить українця, а українець робе борщ. І тому що ясно, що хоча етнічний український єврей відноситься до Хмельницького вкрай негативно, а етнічний кримський татарин взагалі може не знати, хто то такий, але всі вони так чи інакше є частинами української нації.

 

Пару недель назад мне довелось общаться с докторанткой из России со вполне приличными политическими взглядами. И вот, желая мне исключительно добра и профессиональной реализации, она посоветовала поучаствовать в проекте Свободного Университета в Литве - там, мол, работают очень достойные и интересные люди, некоторые из коих до эмиграции преподавали даже в ВШЭ. Я про Свободный Университет слышал впервые, и, спутав его немного с Открытым Университетом Израиля, пообещал поинтересоваться. После окончания общения, Дарья уточнила: «ты же понимаешь, что в случае сотрудничества тебе пришлось бы работать с «хорошими русскими»?»

«Чур меня чур», подумалось мне. И потом следующие пару недель я всё пытался понять - откуда такая активная негативная реакция? Чем мне нехороши хорошие русские? Сегодня, наконец, понял.

Году в 2015-м, когда я учился в Стокгольме, в нашей международной группе студентов был один парень по имени П., поляк. И в декабре того года в Польше случились парламентские выборы, которые с разгромным счетом выиграла партия Право и Справедливость, обещавшая отменить аборты, возродить религиозные ценности и вообще всячески укрепить скрепы. Когда мы спросили П., что он об этом думает, он ответил одной фразой: «мне теперь стыдно говорить людям, что я поляк». Он ничего не сказал про личность Ярослава Качиньского, из-за которого всё, или про великую польскую культуру, давшую миру Мицкевича и Шопена. Он считал, что поляк сейчас - это тот, кто допустил такую неприемлемую для него ситуацию, независимо от того, голосовал ли он за это или не голосовал.

То же и здесь. Те, кому не стыдно называть себя русским, и кто за рубежом организовывает учебные заведения на русском языке для распространения своих идей - это не те люди, рядом с которыми мне хотелось бы работать.

Первый раз фразу «Блаженны нищие духом» я прочел у Марка Твена в сцене, где Том под руководством Мэри безуспешно пытается выучить текст Нагорной проповеди для воскресной школы. С тех пор я никак не мог понять, почему «нищие духом» - это что-то хорошее?

Недавно мне приснилось, что структуру фразы нужно осознать по-другому: подлежащее здесь - нищие, а составное сказуемое - блаженны духом, т.е. духовно богаты и радостны. Такой поэтический оборот, разделение сказуемого подлежащим. Типа «прекрасны девицы ликом».

А сегодня я догадался заглянуть в оригинал. И там, у достопочтенного Матфея, написано по-простому, по рабоче-крестьянски: «μακάριοι οἱ πτωχοὶ τῶ πνεύματι». Где τῶ это предлог дательного падежа с определенным артиклем, типа английского to the. А μακάριοι - это слово, которое означает что-то хорошее, хотя и не вполне понятно, что. Вот что говорят об этом слове исследователи:

"What our word literally meant to the Greeks isn't wholly clear at this remove, but judging from the usages in the classics, it described a state of safety and security: untouchability".

В общем, что-то позитивное.
Т.е. хороши нищие для Духа.
В смысле, Дух чувствует себя внутри них комфортно.
Что уже вполне хорошо укладывается в проповедь аскетизма и отказа от материальных благ.

Начал читать «Человек в поисках смысла» Виктора Франкла, и после нескольких страниц отложил, со всем моим уважением к Франклу.

Когда человек спрашивает «какой смысл жить», ответ, по-моему – а что, у вас есть таблеточки, чтобы быстро и безболезненно свалить? Если есть, тогда поделитесь. А если нет, то и бессмысленно спрашивать, – живём, потому что других вариантов нет.

Если же вопрос действительно о смысле бытия, тут чуть сложнее, но тоже не бином Ньютона. Смысл любой системы можно понять только находясь вне этой системы. Пока ты внутри инкубатора, смысл инкубатора понять невозможно. Если снаружи этой жизни что-то для нас есть (а я верю, что есть), смысл мы узнаем, только надо малость подождать. Если же там ничего нет, то и смысла для нас тоже нет, и мы возвращаемся к предыдущему абзацу.

Логотерапия Франкла пытается ответить на совсем третий вопрос: как утихомирить гнетущую тоску "я суечусь, чё-то делаю, но шо-то не то". Чтобы с ней справиться, нужно пробовать прямым перебором разные виды деятельности, выбирая тот, где эта тоска затихает. Для кого-то это - выхаживание выпавших из гнезда бельчат, для кого-то – выращивание цветов и овощей, для кого-то – уход за умирающими в хосписе. Общее направление я уже указывал в одном из предыдущих постов.

А попытки решать эту задачу сплетеньем слов подобны поискам потерянного кошелька под ближайшим фонарем. А вовсе не там, где мы его потеряли.

В дружественном блоге на ФБ – обсуждение темы «Россия – страна победившего постмодернизма», и «значит ли это, что постмодерн всегда приводит к Буче?».  

Вдруг стало понятным, насколько упрощенно люди понимают ПМ – как те, кто «на нем стоят», так и те, кто его осуждает.

Увидеть выгодную себе грань знакомого предмета, освободить ее от моральных оценок, заявить «это теперь моя истина, и она ничуть не хуже другой», и строить на ней свой суверенитет, или Гулаг, или что они там в России строят. Так вот, это не оно.

ПМ – это не прильнуть к одной грани граненого стакана. Напротив, это видеть одновременно все грани, держать в поле зрения весь стакан, включая те его части, которые сейчас не видны. В этом состоянии очень трудно действовать в своих интересах, и почти невозможно использовать стакан для чего-то еще, кроме вина.

Поэтому постмодернизм в политике – это оксюморон.