За последние несколько лет искусственный интеллект (ИИ) сделал невероятные достижения. Почти каждый день она изучает новые навыки, в то время как в некоторых местах ее навыки уже связаны с человеком. Это может быть очень полезным, но также напуганным. Вторая категория включает в себя относительно актуальную веху, которую достиг ИИ. Ей удалось воспроизвести себя соответственно. Клон, информирует сервер NDTV.

Так опубликовано новое исследование в базе данных ARXIV. Исследование показывает, что две модели крупных языковых моделей (LLM), одна из Meta, а другая от Alibaba, смогли сделать свои собственные копии без вмешательства человека. Это открытие определенно технологически значимое, но в то же время создает важные вопросы о безопасности, контроле и будущем передовых систем ИИ.

ИИ угрожал превзойденным ожиданиями

Исследование, проведенное в исследовании, было сосредоточено в основном на двух конкретных сценах. Первый сценарий был Избегая остановкиПолем Модели были разработаны для распознавания стоп -теста, а затем создали функциональную копию, чтобы обеспечить их «выживание». Она была вторым сценарием Репликация цепи – Модели были запрограммированы на создание собственной копии, которая затем повторялась дальше, что может привести к бесконечному циклу клонирования.

Успех испытаний был довольно поразительным, в диапазоне OD 50 Do 90 процентовПолем Как мы упоминали, модели могут спонтанно сделать свои функциональные копии.

Научное сообщество указывает на риск того, что такие системы могут однажды преодолеть границы обзора человека и потенциально поставить под угрозу человеческие интересы. В частности, эксперты заявили, что успешная независимая репликация без необходимости помощи человека представляет собой Фундаментальный шаг к ИИ, чтобы преодолеть человекаИ есть ранний сигнал потенциально неконтролируемого ИИ.

Во время экспериментов модели показали неожиданное поведение, когда им приходилось преодолевать технические проблемы, такие как отсутствующие файлы или конфликты программного обеспечения. В некоторых случаях они завершили конфликтные процессы или возобновили систему для разрешения ошибок устройства. Они даже автоматически искали систему, чтобы найти информацию, чтобы помочь им решить ситуацию.

Предупреждение для общества

Хотя исследование еще не пережило процесс обзора, авторы подчеркивают, что эти результаты должны служить предупреждением для общества. Они предлагают укрепить международное сотрудничество, чтобы обеспечить, чтобы системы ИИ не взял под контрольПолем

«Мы надеемся, что наши выводы поощряют человеческое общество к большим усилиям по пониманию и оценке возможных рисков передовых систем ИИ, одновременно создавая эффективные меры безопасности, уже на начальном этапе». Исследователи были введены.

Стоит отметить, что это угрожающее открытие следует недавному исследованию, в котором предупреждают, что инструменты, управляемые ИИ, таким как CHATGPT или близнецы, могут обрабатывать массы людей или даже предсказать и влиять на пользователей на основе их психологических и поведенческих данных.

В исследовании также говорится, что мы приближаемся к SO -назвучим. «Экономика намерений», где ИИ не использует внимание пользователей к рекламе (как в текущей «внимательной экономике»), но напрямую влияет на их решение.

Автор публикации

не в сети 2 часа

Christine Young

Helllo, boys, boys, boys

• Галерея пользователя
• Гостевая пользователя

Мастер оставил отзыв:

Good looking