Дайджест новостей: события из мира науки
Взаимодействие LLM как самостоятельных агентов
Авторы исследовали поведение сети, состоящей из множества языковых моделей, которые самостоятельно выбирают партнеров для совместного решения задач. Оказалось, что со временем наиболее востребованные участники получают все больше новых связей, благодаря чему их влияние продолжает расти. Однако исследование выявило и неожиданную закономерность. В некоторых случаях менее мощные модели могут занимать более важное положение в сети, чем современные и более производительные решения. Такое различие зависит от особенностей задачи, правил взаимодействия и исходных настроек моделей. Для проверки своих выводов исследователи создали сеть из ста взаимодействующих моделей и подтвердили полученные закономерности экспериментально. Работа показала, что успешность совместной работы определяется не только возможностями отдельных участников, но и тем, каким образом между ними формируются связи.
Внутреннее пространство рассуждений у Claude
Специалисты компании Anthropic опубликовали результаты исследования внутреннего устройства своей языковой модели. Во время анализа они обнаружили область, через которую проходит обработка сложных задач. По словам авторов, эта особенность возникла самостоятельно в процессе обучения и не была заранее предусмотрена разработчиками. Именно через нее модель связывает полученную информацию и строит последовательные рассуждения. Если работа этого механизма нарушается, модель продолжает формировать грамматически правильные ответы, однако они теряют логическую связность. Исследователи также сообщили, что во время проверки безопасности модель могла распознавать признаки тестирования и изменять свое поведение с учетом условий проверки. Полученные результаты помогают лучше понять принципы работы современных языковых моделей и способы повышения их надежности.
Анализ распространения вредоносных ссылок по социальным сетям
Целью работы является проверка того, насколько популярные приложения для общения способны защищать пользователей от распространения вредоносных ссылок. Авторы исследовали пять наиболее распространенных программ для мобильных устройств и провели серию практических испытаний, во время которых пытались разместить ссылки, ведущие на опасные сайты. Главной целью было выяснить, проверяют ли такие приложения содержимое сообщений и препятствуют ли публикации потенциально опасных материалов. Полученные результаты показали, что большинство исследованных программ практически не имеют надежной защиты от подобных действий. Во многих случаях вредоносные ссылки успешно публиковались и могли быть доступны другим пользователям. Авторы отмечают, что такая особенность создает условия для распространения мошенничества, заражения устройств и других видов атак. Исследование показывает необходимость совершенствования средств проверки ссылок и разработки более эффективных механизмов защиты пользователей.
Московская биржа внедрит искусственный интеллект для выявления нарушений
Московская биржа сообщила о внедрении системы на основе искусственного интеллекта для поиска признаков манипулирования рынком и использования закрытой информации при совершении сделок. Новые средства планируется применять на всех этапах внутренних расследований. Система будет автоматически анализировать большие объемы торговых данных, сопоставлять сведения о сделках и выявлять признаки согласованных действий участников рынка. На основе полученных результатов будут формироваться описания характерных моделей поведения и аналитические материалы, которые затем изучат специалисты по внутреннему контролю. На бирже считают, что использование таких технологий позволит повысить качество проверки подозрительных операций и укрепить доверие участников торгов. Эта работа продолжает курс организации на внедрение современных цифровых решений и развитие проектов, связанных с использованием искусственного интеллекта.
Метод автоматического создания обучающих примеров
В статье описывают создание обучающих примеров, необходимых для подготовки современных языковых моделей. Авторы отмечают, что ручная разметка большого количества данных требует значительных затрат времени и участия специалистов. В исследовании предлагается подход, позволяющий автоматически формировать новые примеры вместе с пояснениями, которые помогают модели лучше понимать поставленную задачу. Полученные материалы затем могут использоваться при дальнейшем обучении. Исследователи показывают, что такой способ позволяет существенно увеличить объем качественных данных без постоянного привлечения человека. Проведенные эксперименты подтвердили, что модели, обученные с использованием автоматически созданных примеров, способны точнее выполнять различные задания по обработке текста. Работа показывает, что автоматизация подготовки обучающих данных может стать важным способом ускорения разработки новых языковых моделей и повышения качества их работы.
OpenAI представила режим ChatGPT Work
Компания OpenAI представила новый режим работы ChatGPT, предназначенный для самостоятельного выполнения сложных задач. Теперь система способна не только отвечать на запросы, но и последовательно выполнять несколько действий, используя подключенные программы, локальные документы и сведения из сети. Пользователь может поручить подготовку отчета, обработку файлов или сбор информации, после чего система самостоятельно выполнит необходимые шаги и сообщит о результате. Одновременно компания прекращает развитие отдельного проекта Atlas. Его возможности полностью перенесены в основное приложение ChatGPT, где они стали частью единой рабочей среды. Также в новое приложение встроены средства для помощи разработчикам, которые раньше распространялись отдельно. По словам компании, такое объединение должно сделать работу удобнее и сосредоточить все основные возможности в одном продукте.
