— Да. Моя первая работа была в Университете Южной Флориды. После получения докторской степени я осталась в Стэнфорде ещё на три года.

— Что заставило вас уйти из Стэнфорда?

— Мне поступило предложение от «Тайдалвейв». Зарплата почти удваивалась. Я согласилась, чтобы обеспечить дочери лучшую жизнь.

— В чём заключалась ваша работа в «Тайдалвейв»?

— Я была специалистом по этике. В первую очередь по проекту «Клэр».

Я улыбнулся и приподнял руки от кафедры, будто говоря: «Ну и что нам это даёт?»

— Должен признаться, я не до конца понимаю, кто такой специалист по этике и чем он занимается, — сказал я. — Объясните, пожалуйста.

— «Клэр» был проектом генеративного искусственного интеллекта, — сказала Китченс. — В то время это был новый рубеж. Правил почти не было, государственного надзора — тоже. Конкуренция была ожесточённой. Компании стали нанимать людей, чтобы гарантировать, что такие программы и приложения создаются ответственно. Генеративный ИИ должен был изменить мир — и уже изменил его. Специалист по этике был чем-то вроде совести проекта. Я должна была помочь выставить барьеры, защищающие людей, которым эти системы будут служить.

— «Должна была»? — уточнил я.

— В некоторых случаях компания лишь заявляет о своей этичности, но на самом деле этого не придерживается. Ставки там чрезвычайно…

Маркус Мейсон поднялся и возразил:

— Ваша честь, в общем виде свидетель намекает на неэтичное поведение в «Тайдалвейв» в рамках проекта «Клэр», — сказал он. — Никаких доказательств этого суду не представлено, потому что их не существует. Я прошу снять вопрос и ответ и дать присяжным соответствующее указание.

Судья Рулин посмотрела на меня, ожидая реакции.

— Ваша честь, во-первых, прошу указать адвокату не включать своё заключительное слово в возражение, — сказал я. — Во-вторых, я закладываю основу для понимания присяжными того, в чём заключалась работа этого свидетеля в «Тайдалвейв» и конкретно в проекте «Клэр».

— Возражение удовлетворяю, — сказала Рулин. — Господин Холлер, давайте перейдём к показаниям, непосредственно связанным с основанием иска.

— Да, Ваша честь, — сказал я. — Одну минуту, пожалуйста.

Я опустил глаза в блокнот, перевернул страницу и пропустил несколько вопросов, которые теперь уже точно не прошли бы мимо возражений.

— Хорошо, Наоми, давайте поговорим о самом проекте «Клэр», — сказал я. — Когда вас к нему прикрепили?

— Компания «Тайдалвейв» наняла меня в конце 2021 года, — сказала Китченс. — После короткого обучения меня назначили на «Клэр» в январе 2022 года.

— Это была отправная точка проекта?

— Нет. Проект уже шёл полным ходом. Когда я только входила в курс дела, то просматривала код и корпоративные директивы за три года последних года.

— То есть специалиста по этике привлекли с большим опозданием.

Маркус вскочил с возражением. Он заявил, что я основываю вопрос на фактах, не подтверждённых доказательствами. Судья удовлетворила возражение, даже не давая мне слова. Я понимал, что он прав по форме. Я просто хотел, чтобы присяжные отложили этот момент в памяти.

Я продолжил.

— Доктор Китченс, вы…

— Наоми, — напомнила она.

— Ладно, Наоми. Раньше вы назвали проект «Клэр» программой генеративного ИИ. Объясните присяжным, что это значит.

— Конечно. Генеративный ИИ — это такие модели, как, например, приложение «Клэр», которые создают новые данные — видео или текст — на основе массива данных, на которых они были обучены.

Мне понравилось, как она, говоря, разворачивается к присяжным. За обедом я сказал ей: «Ты преподаватель. Будь преподавателем и на свидетельской трибуне». Сейчас она именно это и делала. Я был уверен: её новые ученики — присяжные — это чувствовали.

— То есть это не просто «вход — выход»? — спросил я.

— Верно, — сказала Наоми. — Важна именно генеративная часть. Обучение продолжается. Эти большие языковые модели непрерывно получают новые данные и на их основе учатся дальше.

— «Большая языковая модель» — что это такое?

— Это модель машинного обучения, созданная для генерации естественного языка. Она обучается на огромных объёмах текстов, а потом, когда её просят, что-то сказать или ответить, анализирует и фильтрует эти данные, выискивает закономерности и связи. Со временем модель приобретает предсказательную силу в отношении человеческой речи. Но её постоянная проблема в том, что она впитывает и любые предубеждения и ошибки, содержащиеся в обучающих данных.

— То есть по-простому: «мусор на входе — мусор на выходе»?