LLM
Последние новости и упоминания на vestka
Связанные персоны
- Анализ ошибок в ответах LLM: опыт команды Центра развития искусственного интеллекта
ИИ·Хабр ML·
Команда Центра развития искусственного интеллекта СПАО «Ингосстрах» провела исследование по выявлению ошибок в ответах моделей на основе логарифмических вероятностей (logprobs). В статье рассматриваются методы интеллектуальной обработки документов и использование мультимодальных LLM для извлечения данных.
- Оптимизация LLM на 1Т параметров в Битрикс24: вызовы и решения
ИИ·Хабр ИИ·
В рамках конференции Saint HighLoad++ обсуждаются сложности, связанные с развертыванием LLM на 1 триллион параметров в Битрикс24. Спикер делится опытом оптимизации ресурсов и управлением нагрузкой на платформе.
- Исследование маскирования ПДн для LLM: новые метрики и находки
ИИ·Хабр ML·
В новом исследовании изучается маскирование персональных данных (ПДн) для языковых моделей (LLM) с использованием шести шлюзов. Авторы выявили новые метрики, которые не учитываются в существующих бенчмарках, и представили открытый корпус данных для дальнейшего анализа.
- Ускорение локальных LLM на Mac с помощью Splash
ИИ·Хабр ИИ·
Компания Splash представила новые подходы к ускорению локальных языковых моделей на Mac. В статье рассматриваются технологии спекулятивного декодирования DFlash 2 и важные аспекты, которые следует учитывать при выборе параметров для работы с моделями.
- Проблемы с семантикой при использовании fallback в LLM
ИИ·Хабр ИИ·
Статья рассматривает сложности, возникающие при использовании fallback между языковыми моделями. Обсуждаются проблемы, связанные с изменением смысла ответов и необходимость разделения retry и fallback.
- Разделение reasoning и side effects в production-пайплайне LLM
ИИ·Хабр ИИ·
Статья рассматривает важность разделения логики принятия решений и побочных эффектов в производственных пайплайнах для LLM. Обсуждаются методы обработки запросов и предотвращения дублирования действий.
- Полемика о понимании языка LLM: аргументы и контраргументы
ИИ·VC.ru AI·
В обсуждении о понимании языка искусственными интеллектами, представленными LLM, рассматриваются классические и современные аргументы. Споры сосредоточены вокруг концепции китайской комнаты и ее применимости к современным моделям.
- Влияние LLM на математику: новые вызовы и возможности
ИИ·Хабр ML·
В последние годы наблюдается значительное взаимодействие между языковыми моделями и математикой, что вызывает интерес и беспокойство среди специалистов. Математики обсуждают, как LLM могут повлиять на их работу и будущее дисциплины.
- Анализ проблем в LLM-конвейере для закупок IT-сервисов
ИИ·Хабр ML·
В статье рассматриваются проблемы, возникшие в процессе работы LLM-конвейера, который анализирует закупки для сервисной IT-компании. Обсуждаются детали работы системы и причины сбоев.
- Применение graph RAG для многоходовых рассуждений в LLM
ИИ·Хабр ИИ·
В недавнем видео обсуждаются преимущества использования graph RAG для многоходовых рассуждений в больших языковых моделях (LLM). Автор демонстрирует, как этот подход позволяет более эффективно извлекать информацию из различных источников текста.
- Опыт взаимодействия с LLM: от идеи до прототипа
ИИ·Хабр ИИ·
Владислав Козлов, тимлид аналитиков Business Security в Авито, делится опытом использования LLM для проверки своей идеи. Он также рассказывает о разработанном алгоритме кластеризации и созданной на его основе библиотеке.
- Интеграция текстовой и визуальной моделей в Алисе AI
ИИ·Хабр ML·
В статье рассматривается процесс объединения текстовой LLM и визуальной VLM в одну омнимодель для виртуального помощника Алиса. Это позволяет улучшить взаимодействие с пользователями, обеспечивая более целостное восприятие запросов, содержащих как текст, так и изображения.
- Интеграция документации в LLM с помощью RAG
ИИ·Хабр ИИ·
Статья описывает процесс подключения внутренней документации и базы знаний к моделям LLM с использованием подхода RAG. Рассматриваются этапы подготовки данных, создания эмбеддингов и генерации ответов на основе специфического контекста.
- Бесплатные уроки по программированию и технологиям в сентябре 2026 года
Рынок труда·Хабр Карьера·
В сентябре 2026 года предлагается 62 бесплатных урока, охватывающих актуальные темы для разработчиков и специалистов в области технологий. Уроки будут включать практические занятия по PostgreSQL 18, LLM, Go и другим востребованным технологиям.
- Обзор новых ИИ-моделей и LLM за неделю: релизы и обновления
Технологии·Хабр Новости·
С 24 по 31 августа 2026 года разработчики представили несколько новых ИИ-моделей и LLM. Среди ключевых релизов — Qwen3.8-Flash-Next, GLM-5.3 и Granite 4.2 от IBM, а также обновления для генерации видео, речи и изображений.
- Ученые обнаружили причину галлюцинаций в LLM
ИИ·Хабр ML·
Исследователи из Университета Цинхуа выявили, что 0.1% нейронов в больших языковых моделях (LLM) могут быть ответственны за их ложные утверждения. Это открытие может изменить подход к разработке и обучению нейросетей.
- Многоуровневая защита LLM от prompt injection и утечек данных
ИИ·Хабр ИИ·
Компания FlautGuard разработала многоуровневую защиту для языковых моделей, направленную на предотвращение атак типа prompt injection и утечек данных. Эта защита учитывает уникальные особенности взаимодействия пользователя с LLM, где ввод может быть интерпретирован как команда.
- Обеспечение безопасности корпоративных MCP-шлюзов с помощью Agentgateway
ИИ·Хабр ИИ·
Проект Agentgateway, разработанный Agentic AI Foundation, предлагает решения для безопасности корпоративных MCP-шлюзов, позволяя контролировать доступ ИИ-агентов к данным и сервисам. Открытый исходный код и рекомендации по безопасности делают его полезным инструментом для изучения данной темы.
- Обзор инструмента RAGFlow для работы с LLM и внутренними документами
ИИ·Хабр ИИ·
Статья посвящена методу RAG (Retrieval-Augmented Generation) и его реализации через инструмент RAGFlow. Рассматриваются проблемы, связанные с использованием LLM, такие как галлюцинации и устаревшие знания, а также необходимость работы с внутренними документами компаний.