Ученый сомневается в прозрачности данных OpenAI
Андреас Том выразил сомнения в прозрачности использования пользовательских данных OpenAI после совпадения методов решения сложной задачи. Он призывает компанию раскрыть детали, но OpenAI публично не комментирует ситуацию.
Crius
Андреас Том, специалист по теории групп из Технического университета Дрездена, выразил сомнения относительно того, использовались ли его личные сессии в ChatGPT для получения результата OpenAI, связанного с построением первой известной не-софической группы — одной из десяти задач, которые, по заявлению OpenAI, были решены Astra 1 августа.
В публикации на Mathstodon Том сообщил, что вскоре после объявления отправил электронное письмо исследователям OpenAI Марку Селке и Себастьену Бюбеку. Том и его коллега из Дрездена в течение нескольких месяцев работали над задачей сопоставления экспандеров и расширениями своей работы с Габором Куном внутри ChatGPT. В письме были заданы два вопроса: попадали ли эти обмены в обучающие данные и могла ли система получить к ним доступ при работе над доказательством. В ответе Селке было указано, что такого не происходило. Том отмечает, что этот ответ касался только вопроса о «прямом доступе» и считает его слишком широким и, оглядываясь назад, некорректным.
Этот обмен вновь стал предметом обсуждения на текущей неделе после объявления OpenAI о Навье-Стоксе. В заявлении OpenAI отмечается, что ни исследователи, ни агенты компании не видели работу этой пары до публикации, и никакие конкретные пользовательские данные не использовались. Также было добавлено, что нельзя исключать возможность использования обезличенных данных, полученных в результате применения продуктов компании, для улучшения моделей.
Том приводит еще два аргумента. Он отключил обучение модели 29 июня, однако пользователи не могут проверить этот параметр, и он не влияет на более ранние чаты. Кроме того, большинство исследователей предпочитали методы квантовых игр, а не подход, использованный Томом и Куном, поэтому его удивило, что Astra выбрала тот же путь.
На данный момент Том воздерживается от утверждений о наличии доказательств и призывает OpenAI раскрыть основания для своего отрицания. OpenAI публично не комментировала его публикации.
