greenfree2002

Провел день на конференции по Digital Humanities в Раанане. Конференция, как оказалось, планировалась как международная и на июль, но в связи с политической ситуацией решили перенести на сентябрь. Поскольку ситуация за это время не изменилась, пришлось им ограничиться внутриизраильской. Думаю, я тут единственный участник из-за рубежа. Ощущение удивительное: я никого здесь не знаю, но чувство belonging, (обусловленное, вероятно, тем, что я понимаю культурные коды, а не только язык), очень греет.

Запишу основные запомнившиеся моменты, тезисно и очень коротко. Где прямая речь - это, конечно, мой пересказ.

Вступительная речь, Гди Сагив, глава департамента DH:
- Я тут попросил ИИ написать мне вступительную речь… Он написал много правильных слов, про inspiration, exploring, breakthrough, fruitful collaboration и прочее. И я понял, что пока что речи мне придется писать самому.

Первая презентация, Лираз Маргалит:
- Представьте, если бы можно было вам в голову вживить чип, который сможет учитывать все ваши потребности, особенности и подсознательные желания, и принимать за вас оптимальное решение. Кто согласился бы? Ага, вижу, примерно 2 процента, как обычно. Большинство склонно к драматизированию решений. Мы переоцениваем их важность. Подумайте, сколько решений мы принимаем за день? Полторы тысячи. Сколько из них реально меняют жизнь? Одно-два в день, максимум.
И дальше, изменив тему, рассказывает о том, как информационные корпорации используют данные, полученные от пользователей, для улучшения продаж. В качестве примера - историю с Таргетом, когда компания знала о беременности девушки раньше родителей по изменившемуся паттерну закупок. О том, как Тиндер строит свою внутреннюю систему оценки пользователей, основываясь в том числе на переписке участников. О том как Гугл меняет стратегии по демонстрации товара в продажах, в зависимости от того, что знает про пользователя.
Снова сменив тему, рассказывает о том, как обучают ИИ быть более человечным и предпочтительным собеседником, чем личный врач или друг. Показывает конкретные стратегии, которые еще только на стадии внедрения: иногда обращаться по имени, задавать вопросы, подстраиваться под длину предложений и меру краткости собеседника, использовать информацию из предыдущих разговоров.
По-моему, это примерно то, о чем писал Карнеги.

В конце презентации я думаю: ну, понятно, почему никто не хочет себе чип. Мало ли, как корпорации будут использовать информацию, накопленную чипом, и какие решения он за нас будет принимать. Вопрос доверия.

Вторая презентация, Элишай Эзра-Цур, математик.
Рассказывает о том, как рисунок с помощью постепенного добавления шума превращают в чистый шум - и затем, обратив процесс, обучают модель по генерации изображений превращать чистый шум после множества итераций в то, что нужно пользователю. Говорит о том, что у компьютера разница в энергии между сигналом (1) и шумом (0) велика, чтобы избежать ошибки, а у человеческого мозга гораздо меньше - мозг гораздо энергоэкономичнее ИИ.

Третья презентация, Офир Минц-Манор, литературовед. Обучал ИИ выискивать метафоры в средневековой поэзии. Говорил о принципиальной ненаправленности на экономическую эффективность гуманитарных исследований - в частности, литературы. Привел стихотворение Леи Гольдберг «Тшува» - её ответ на заданный ей вопрос о пользе поэзии в 20-м веке:
«А что делать с лошадьми в двадцатом веке?
А с оленями?
А с большими камнями в Иерусалимских горах?»
Три строчки - и вопрос закрыт. Отлично, по-моему.

Четвертая презентация: Далит Кен-Дрор Фельдман. Этика и авторское право:
Приводит пример случая, когда фотограф намеренно оставил камеру, а макака нашла ее и сделала селфи. Фото стало знаменитым, а когда фотограф заявил о своих правах, суд принял решение, что нет, право на фото должно быть у обезьяны, но раз она не субъект авторского права, то фото остается без правообладателя. Так вот, генеративные модели - тоже не субъект. Еще вопрос о том, что можно пользоваться авторскими материалами в целях обучения, поэтому израильское министерство юстиции постановило, что можно тренировать модели на любых материалах - модели ведь обучают. Но в других странах по этому вопросу разные мнения.

Пятая презентация, Кармель Вайсман. Философия-вера-религия-убеждения
Тут я сделаю отдельный пост. Речь в основном шла о разных позициях философов, религиоведов и людей, создающих ИИ - от оптимиста Ника Бострома до пессимиста Юдковского, включая Маска, Сэма Альтмана и других. Про философию матрицы, про коллективные решения и про ноосферу (она как-то по другому выразилась) как вариант Бога.

Шестая и последняя, Йорам Кальман, о творческости и агентности ИИ.
Приводил пример исследований, где над одним типом задач работали разные группы - чисто человеческая, люди в коллаборации с ИИ, только несколько ИИ. Во втором случае результаты получались наиболее творческие. В обсуждении возник спор, почему он использует термин «коллаборация» вместо «использования инструмента», и он довольно убедительно говорил об агентности, т.е. субъектности (или псевдо-субъектности, зависит от отношения, но смысл не меняется) ИИ. В завершение сказал: «люди боятся, что ИИ вытеснит человека с рабочих мест. Но скорее произойдет так, что люди, умеющие пользоваться ИИ, вытеснят тех, которые не умеют».

Завтра начинается летняя школа и, надеюсь, удастся в общении с этими людьми выловить еще много интересного.