Chatgpt сошел с ума? Openai тихо снял обновление, которое заставило его раздражать покер vosveteit.sk
Openai прокомментировал недавние осложнения, связанные с языковой моделью языка по умолчанию, которая управляет их популярным инструментом Chatgpt, моделью GPT-4O. Эти проблемы привели к необычному шагу, где -то, загрузив недавно реализованное обновление модели, представленное всего несколько дней назад. Тема отмечена TechCrunch.
В прошлые выходные многие социальные онлайн-пользователи заметили замечательные изменения в поведении CHATGPT после развертывания обновленной версии GPT-4O. ИИ начал демонстрировать чрезмерную степень согласия и дружбы в своих ответах, что быстро стало предметом онлайн -шуток и пародий. Пользователи поделились доказательством разговоров, в которых CHATGPT с энтузиазмом также утвердил спорные или даже, возможно, опасные предложения и решения.
Сэм Альтман, генеральный директор Openai, отреагировал на эту ситуацию, внесли свой вклад в социальную сеть X в воскресенье, в которой он признал существование проблемы и позаботился о том, чтобы OpenAI интенсивно работал над тем, чтобы удалить ее.
Последние несколько обновлений GPT 4O сделали личность слишком сикофантом и раздражающей (хотя есть некоторые очень хорошие части), и мы работаем над исправлениями ASAP, некоторые сегодня, а некоторые на этой неделе.
В какой -то момент он поделился бы нашим обучением из этого, это было интересно.
– Сэм Альтман (@Sama) 27 апреля 2025 года
Два дня спустя Альтман объявил, что обновление GPT 4O было отозвано, и компания сосредоточится на «других модификациях» личности этой языковой модели. Согласно Openai, цель обновления состояла в том, чтобы сделать личность модели по умолчанию казаться пользователям «более интуитивно понятными и более эффективными». Однако компания признала, что на модель слишком влияет «краткосрочная обратная связь» И это изменение «не соответствовало тому, как взаимодействие пользователей с CHATGPT фактически развивается в долгосрочной перспективе».
Не упускайте из виду
Некоторые программы хотят шпионить за вами. Вот как вы узнаете перед загрузкой, к каким частям телефона они хотят получить доступ
«В результате GPT-4O начал сгибаться к ответам слишком поддерживающим, но в то же время не было искренности»,-сказал Опени в своем блоге. «Такое взаимодействие с услугами может быть неудобным для пользователей, даже заботы и может вызвать беспокойство. Мы потерпели неудачу и активно работаем над лекарством».
OpenAI сообщил, что он реализует несколько мер для устранения этой проблемы. К ним относятся улучшение основных методов обучающих моделей и корректировки системных проблем, которые явно направляют GPT-4O, чтобы избежать преувеличенного значения (Системные проблемы представляют первоначальные инструкции, которые направляют общее поведение и тон модели во взаимодействиях)Полем Компания также работает над укреплением механизмов безопасности, чтобы «повысить честность и прозрачность модели». Он также продолжает расширять свои процессы оценки, чтобы «помочь выявить проблемы, превышающие только область похвалы», говорится в своем заявлении.
Кроме того, OpenAI экспериментирует с методами, которые позволят пользователям предоставлять «фактическую обратную связь», таким образом, «непосредственно влияя на их взаимодействие» с помощью CHATGPT и может выбрать из различных предопределенных личностей из этого инструмента. Обратная связь пользователей имеет решающее значение для OpenAI, и компания также использует передовые обратные и аналитические инструменты, такие как обследования разговоров OpenAI, что позволяет эффективно выявлять недостатки и адаптировать модель к фактическим потребностям пользователей.
GPT-4O является значительным технологическим изменением в области общего искусственного интеллекта. Это мультимодальная модель, которая может обрабатывать и генерировать текст, звук и реальное время. По сравнению с предыдущими моделями, такими как GPT-4, GPT-4O предназначен для того, чтобы быть быстрее и эффективнее, и может лучше понять идиомы, метафоры и культурные ссылки. OpenAI утверждает, что GPT-4O побеждает GPT-4 в основных испытаниях, таких как простые математические задачи, понимание языка и визуальных задач, и его ответы, как правило, более подробно, иногда слишком сломанные. Модель также обеспечивает более сложные взаимодействия благодаря возможности работать с более широким контекстом и запоминать более длительные разговоры.
Тем не менее, этические проблемы и проблемы безопасности также увеличиваются с расширением GPT-4O. Способность модели работать с изображением и звуком в режиме реального времени приносит новые риски для конфиденциальности и возможного злоупотребления личными данными. Эксперты называют необходимость прозрачных механизмов данных и последовательно контролировать доступ к конфиденциальной информации, чтобы предотвратить нормализацию постоянного наблюдения и непреднамеренного распространения предрассудков. Поэтому OpenAI подчеркивает, что безопасность и этические механизмы остаются приоритетными, а новые версии моделей предназначены не только для дружеских, но и честных, прозрачных и безопасных.
Автор публикации
КОММЕНТЫ