Нейросети и инженерное образование

Генеративный искусственный интеллект стремительно развивается и проникает в сферу образования и исследований. В университетском колледже Лондона провели исследование студентов, изучающих информатику, так как от них ожидается понимание принципов, лежащих в основе технологий GenAI. Проведя исследование, авторы сделали вывод, что произошёл поворот учебного процесса от последовательности «самостоятельная идея → код → отладка» к последовательности «генерация идей через ИИ → интерактивное программирование → совместная оптимизация». LLM интегрируется, как REPL-помощник, полезный для прототипирования и языковой коррекции, но требует строгих стратегий верификации, так как код часто принимается без пошаговой проверки. В качестве рекомендации предлагается ввести чёткие правила учёта вклада ИИ в проекты, обучать механиков промпт-инжинирингу, валидировать AI-код тестами и code-review.

Размер имеет значение в LLM

Статья исследует генерацию диаграмм BPMN с помощью относительно небольших дообученных LLM моделей и сравнивает их с более крупными, но недонастроенными. В качестве метрик использовали структурную точность (совпадение узлов/переходов), семантическую корректность и время генерации. Исследователи пришли к выводу, что тонкая донастройка даёт модели локальную компетентность в предметной области. Это позволяет достичь уровня качества, сравнимого или превышающего большие базовые модели при значительно меньших вычислительных требованиях и лучшей детерминированности вывода. Уменьшение размера модели снижает задержку, упрощает деплой на edge/локальных серверах и облегчает контроль за поведением, включая безопасность и приватность.

Перспектива безопасности для автономных ТС

18 ноября вышла обзорная статья, в которой систематизируются актуальные технические вызовы безопасности автономных транспортных средств. Технически выделяются четыре слоя риска: ошибки сенсоров; ошибки ML-моделей восприятия; неверные или неоптимальные стратегии планирования при неполных данных; системные интеграционные отказоустойчивые сценарии. Авторы предлагают использовать model checking и формальные спецификации для критичных контроллеров, а также комбинацию симуляций. Что касается практики, то рекомендуется применять калиброванные неопределённости представления, внедрять safety-envelopes и runtime monitors, проектировать системы – от ассистированных режимов до безопасной стоянки. 

NVIDIA — ускорение «биологических трансформеров»

NVIDIA опубликовала практический гайд и набор рекомендаций (BioNeMo Recipes) для масштабирования трансформеров, обучаемых на биологических данных, показывая, как эффективнее использовать ресурсы GPU и ускорять обучение. Основная идея сводится к трём ключевым подходам: интеграция TE (Transformer Engine) для оптимизации слоёв трансформера за счёт использования меньшего количества памяти и быстрого выполнения матричных операций, также ускорять обучение и инференс без потери точности (FP8/FP4); распределённое обучение через FSDP (Fully Sharded Data Parallel); последовательная упаковка для удаления паддингов в батчах с переменной длиной последовательностей. В итоге Transformer Engine даст заметный рост пропускной способности и экономию VRAM, а последовательная упаковка уменьшит вычислительные потери при длинных/неоднородных последовательностях.

Как распознать текст, сгенерированный ИИ

Вики-сообществом опубликован гид с набором признаков AI-сгенерированного текста. Документ подчёркивает, что это не гарант распознавания сгенерированного текста, а чеклист. Люди-редакторы всё равно остаются основными инструментами для проверки. В список сигнальных признаков вошли использование шаблонных фраз, например, “важно отметить”, излишне нейтральный энциклопедичный тон, склонность к «размытому» общему описанию, наличие фиктивных DOI/URL, отсутствие глубоких примеров или личного анализа. Эксперты подчеркивают, что ИИ-текст может быть логично и грамотно построен, но при внимательном чтении выдаёт свою искусственность через шаблонность и повторяемость формулировок.

Antigravity

Google представила Antigravity – редактор/IDE с глубокой интеграцией Gemini и агентной парадигмой. Вместо того, чтобы писать код построчно, разработчик формирует цели и наблюдает, как агенты планируют, реализуют и тестируют фичи, сохраняя артефакты (планы, скриншоты, записи действий). Самое интересное – Antigravity работает в двух режимах. Editor View – привычный редактор, Manager View – центр управления, где можно вести десятки задач и агентов параллельно. Архитектурно это форк VS Code с расширением runtime для агентов, которые способны выполнять web-автоматизацию, такие как клики и запуск тестов, создавать PR/issue и собирать подтверждения выполнения (лог действий).