Обсуждения, дискуссии, точки зрения на события и тренды.

Мнения

Подсайт, где редакция и пользователи вместе публикуют новости и держат руку на пульсе. Задача…

Новости

OpenAI спровоцировала бум генеративного ИИ в прошлом году, когда выпустила чат-бота ChatGPT, который за два месяца приобрёл аудиторию в 100 млн ежемесячных пользователей, установив рекорд самого быстрорастущего приложения. На данный момент остро встала проблема дезинформирования пользователей искусственным интеллектом, и для борьбы с этим явлением компания предложила своё решение. Некоторые независимые эксперты выразили скептицизм по поводу того, насколько эффективным будет предложенный метод.

Дезинформирование, или «глитчи» ИИ возникают, когда модели, подобные ChatGPT или Google Bard, полностью фабрикуют информацию, ведя себя так, как будто они излагают факты. «Даже самые современные ИИ-модели склонны выдавать ложные сведения. Они демонстрируют тенденцию выдумывать факты, — пишут исследователи OpenAI в своём отчёте. — Эти глитчи вызывают множество проблем в областях, требующих многоступенчатых согласований решений, поскольку одной логической ошибки достаточно, чтобы сорвать финальное решение».

Новая стратегия OpenAI по борьбе с дезинформацией заключается в том, чтобы обучать модели ИИ поощрять достоверную информацию. Исследователи назвали этот подход «контроль процесса». По их мнению, он может привести к созданию более логичного ИИ, поскольку эта стратегия побуждает модели следовать «цепочке мыслей», подобной человеческой.

«Обнаружение и смягчение логических ошибок модели, или галлюцинаций, является критическим шагом на пути к созданию искусственного интеллекта общего назначения — сказал Карл Коббе, штатный математик OpenAI, отметив, что, хотя компания не изобрела подход, основанный на наблюдении за процессом, но она помогает его внедрять. По словам Коббе, OpenAI открыла доступ к сопроводительному набору данных из 800 000 меток, которые она использовала для обучения специальной модели, упомянутой в исследовательской работе.

Бен Уинтерс, старший советник Информационного центра электронной конфиденциальности и руководитель проекта «ИИ и права человека», выразил свои сомнения по поводу исследования, заявив CNBC, что хотел бы изучить полный набор данных и сопутствующие примеры. «Я просто не думаю, что исследование само по себе значительно смягчает опасения по поводу дезинформации и неверных результатов, когда ИИ действительно используется в реальной жизни», — сказал Уинтерс.

Управляющий директор Института AI Now Сара Майерс Вест, заявила, что OpenAI не предоставила основных деталей о данных, использованных для обучения и тестирования GPT-4. «Таким образом, все ещё существует огромная непрозрачность, которая препятствует любым значимым усилиям по обеспечению подотчётности в области ИИ, несмотря на то, что эти системы уже напрямую влияют на людей».

Как меняются технологии, и как они меняют нас — от новых айфонов до прорывных разработок и взгляда в будущее.

Технологии

OpenAI ищет способ борьбы с «дезинформацией» генерируемой ИИ

Территория микропостинга. Место для тех, кто хочет опубликовать или просто посмотреть забавные картинки.