# галлюцинации

Published articles for галлюцинации.

This is one page of public article previews, not the complete archive. Follow Next page to continue. Summaries are not the original full articles.

## LLM-судья для нейроразбора резюме на hh

DevFeed: [LLM-судья для нейроразбора резюме на hh](<https://devfeed.tech/articles/llm-hh-30669.md>)

Original publisher: [Read original article](<https://habr.com/ru/companies/hh/articles/1050174/>)

Author: Mentalitet (hh.ru)

Published: 2026-06-22T05:31:17Z

Content type: article

Language: ru

Sources: [HeadHunter RU](<https://devfeed.tech/sources/headhunter-ru.md>)

Topics: [Large Language Model](<https://devfeed.tech/topics/llm.md>), [Machine learning](<https://devfeed.tech/topics/machine-learning.md>)

Tags: [ai](<https://devfeed.tech/tags/ai.md>), [ai-quality](<https://devfeed.tech/tags/ai-quality.md>), [eval](<https://devfeed.tech/tags/eval.md>), [hh-ru](<https://devfeed.tech/tags/hh-ru.md>), [hr](<https://devfeed.tech/tags/hr.md>), [llm](<https://devfeed.tech/tags/llm.md>), [llm-10b5a83db3c5](<https://devfeed.tech/tags/llm-10b5a83db3c5.md>), [llm-as-a-judge](<https://devfeed.tech/tags/llm-as-a-judge.md>), [llm-as-judge](<https://devfeed.tech/tags/llm-as-judge.md>), [quality-assurance](<https://devfeed.tech/tags/quality-assurance.md>), [tag-61cd5a476b1d](<https://devfeed.tech/tags/tag-61cd5a476b1d.md>), [tag-a939ae104bb0](<https://devfeed.tech/tags/tag-a939ae104bb0.md>), [tag-b6914c0b0244](<https://devfeed.tech/tags/tag-b6914c0b0244.md>), [tag-d96e238f1419](<https://devfeed.tech/tags/tag-d96e238f1419.md>), [tag-e7e38deac50c](<https://devfeed.tech/tags/tag-e7e38deac50c.md>)

### AI overview

This article describes how hh.ru designed an LLM judge for its resume-analysis feature in an AI assistant. It explains why reliable evaluation requires its own rubrics, datasets, quality metrics, operating-cost considerations, and controls for hallucinations and interpretation errors. The system assesses candidates against criteria relevant to a specific position, which may be extracted from a vacancy or defined by an employer.

### Source excerpt

Создать LLM-судью легко. Гораздо сложнее сделать так, чтобы его оценкам можно было доверять. Мы убедились в этом на практике при разработке нейроразбора резюме для ИИ-помощника hh.ru. Быстро выяснилось, что хороший LLM-судья -- это отдельный продукт со своими рубриками, датасетами, метриками качества и стоимостью эксплуатации. Меня зовут Женя Орлов, я LLM Eval Lead. В этой статье расскажу, как мы проектировали систему оценки для нейроразбора резюме, почему отказались от наивных подходов и какие выводы сделали по ходу разработки. Читать далее

## Detecting hallucinations in RAG systems with circuit tracing and attribution graphs

DevFeed: [Detecting hallucinations in RAG systems with circuit tracing and attribution graphs](<https://devfeed.tech/articles/circuit-tracing-24026.md>)

Original publisher: [Read original article](<https://habr.com/ru/companies/redmadrobot/articles/951118/>)

Author: IrinaKoshkina (red\_mad\_robot)

Published: 2025-09-26T18:30:09Z

Content type: tutorial

Language: ru

Sources: [Redmadrobot EN](<https://devfeed.tech/sources/redmadrobot-en.md>), [Redmadrobot RU](<https://devfeed.tech/sources/redmadrobot-ru.md>)

Topics: [Large Language Model](<https://devfeed.tech/topics/llm.md>), [Retrieval Augmented Generation (RAG)](<https://devfeed.tech/topics/retrieval-augmented-generation-rag.md>), [Natural language processing](<https://devfeed.tech/topics/nlp.md>), [anthropic](<https://devfeed.tech/topics/anthropic.md>)

Tags: [anthropic](<https://devfeed.tech/tags/anthropic.md>), [circuit](<https://devfeed.tech/tags/circuit.md>), [llm](<https://devfeed.tech/tags/llm.md>), [nlp](<https://devfeed.tech/tags/nlp.md>), [rag](<https://devfeed.tech/tags/rag.md>), [red-mad-robot](<https://devfeed.tech/tags/red-mad-robot.md>), [tag-0444141ce356](<https://devfeed.tech/tags/tag-0444141ce356.md>), [tag-3f4d1152a2b4](<https://devfeed.tech/tags/tag-3f4d1152a2b4.md>), [tag-73f5f2c76797](<https://devfeed.tech/tags/tag-73f5f2c76797.md>), [tag-b6914c0b0244](<https://devfeed.tech/tags/tag-b6914c0b0244.md>), [tag-d27a0708d400](<https://devfeed.tech/tags/tag-d27a0708d400.md>), [tracing](<https://devfeed.tech/tags/tracing.md>), [transcoder](<https://devfeed.tech/tags/transcoder.md>)

### AI overview

The article explains an approach to detecting hallucinations in retrieval-augmented generation systems by examining model computation graphs with Anthropic's framework, cross-layer transcoders, and attribution graphs. It presents an implementation for analyzing Qwen2.5-7B and reports 85% detection accuracy on a test dataset for a simple implementation.

### Source excerpt

Всем привет! Меня зовут Ирина, я NLP-инженер в red_mad_robot, занимаюсь научными исследованиями интерпретируемости LLM и анализом механизмов внутренних вычислений моделей, чтобы применять полученные результаты на практике. Например, сегодня хочу рассказать, как мы подошли к решению задачи детекции галлюцинаций LLM в RAG системах со стороны исследования графов размышлений модели -- с помощью интересного фреймворка от Anthropic. В статье поговорим, как использовать cross-layer transcoders и атрибуционные графы для детекции галлюцинаций в RAG системах. Рассмотрим пример реализации детектора на графах для анализа модели Qwen2.5-7B и практические примеры использования. Спойлер: на простой реализации получили точность детекции 85% на тестовом датасете. Читать далее

## От мозга к мультиагентным системам: как устроены Foundation Agents нового поколения

DevFeed: [От мозга к мультиагентным системам: как устроены Foundation Agents нового поколения](<https://devfeed.tech/articles/foundation-agents-24022.md>)

Original publisher: [Read original article](<https://habr.com/ru/companies/redmadrobot/articles/930916/>)

Author: redmadrobot (red\_mad\_robot)

Published: 2025-07-24T21:44:07Z

Content type: article

Language: ru

Sources: [Redmadrobot EN](<https://devfeed.tech/sources/redmadrobot-en.md>), [Redmadrobot RU](<https://devfeed.tech/sources/redmadrobot-ru.md>)

Topics: [Artificial Intelligence](<https://devfeed.tech/topics/ai.md>), [Large Language Model](<https://devfeed.tech/topics/llm.md>)

Tags: [agents](<https://devfeed.tech/tags/agents.md>), [ai](<https://devfeed.tech/tags/ai.md>), [alignment](<https://devfeed.tech/tags/alignment.md>), [deep-learning](<https://devfeed.tech/tags/deep-learning.md>), [jailbreak](<https://devfeed.tech/tags/jailbreak.md>), [large-language-models](<https://devfeed.tech/tags/large-language-models.md>), [llm](<https://devfeed.tech/tags/llm.md>), [machine-learning](<https://devfeed.tech/tags/machine-learning.md>), [multi-agent-systems](<https://devfeed.tech/tags/multi-agent-systems.md>), [prompt-engineering](<https://devfeed.tech/tags/prompt-engineering.md>), [prompt-injection](<https://devfeed.tech/tags/prompt-injection.md>), [rag](<https://devfeed.tech/tags/rag.md>), [reasoning](<https://devfeed.tech/tags/reasoning.md>), [reinforcement-learning](<https://devfeed.tech/tags/reinforcement-learning.md>), [safety](<https://devfeed.tech/tags/safety.md>), [tag-b0a411324cb6](<https://devfeed.tech/tags/tag-b0a411324cb6.md>), [tag-b6914c0b0244](<https://devfeed.tech/tags/tag-b6914c0b0244.md>)

### AI overview

This Russian-language analytical article explains the concept of Foundation Agents based on the research paper "Advances and Challenges in Foundation Agents." It discusses brain-inspired agent architecture, cognition, learning, reasoning, memory, world models, rewards, perception, action, self-improvement, multi-agent collaboration, and agent safety issues including jailbreaks, prompt injection, hallucinations, misalignment, poisoning attacks, and privacy.

### Source excerpt

Аналитический центр red_mad_robot разобрал объёмную научную статью "Advances and Challenges in Foundation Agents" от группы исследователей AI из передовых международных университетов и технологических компаний. Работа предлагает новый взгляд на текущее состояние и развитие "интеллектуальных агентов", которые могут адаптироваться к множеству задач и контекстов. Рассказываем, какие идеи лежат в основе Foundation Agents, с какими проблемами предстоит столкнуться, и что ждёт нас в будущем. Читать далее

## Как AI-агенты ускоряют работу девелопера: автоматизация данных и управление знаниями

DevFeed: [Как AI-агенты ускоряют работу девелопера: автоматизация данных и управление знаниями](<https://devfeed.tech/articles/ai-24011.md>)

Original publisher: [Read original article](<https://habr.com/ru/companies/redmadrobot/articles/892882/>)

Author: redmadrobot (red\_mad\_robot)

Published: 2025-03-26T12:01:58Z

Content type: article

Language: ru

Sources: [Redmadrobot EN](<https://devfeed.tech/sources/redmadrobot-en.md>), [Redmadrobot RU](<https://devfeed.tech/sources/redmadrobot-ru.md>)

Topics: [Artificial Intelligence](<https://devfeed.tech/topics/ai.md>), [genai](<https://devfeed.tech/topics/genai.md>), [pdf](<https://devfeed.tech/topics/pdf.md>)

Tags: [ai](<https://devfeed.tech/tags/ai.md>), [ai-e2239b5ae8fa](<https://devfeed.tech/tags/ai-e2239b5ae8fa.md>), [genai](<https://devfeed.tech/tags/genai.md>), [ocr](<https://devfeed.tech/tags/ocr.md>), [pdf](<https://devfeed.tech/tags/pdf.md>), [rag](<https://devfeed.tech/tags/rag.md>), [ragas](<https://devfeed.tech/tags/ragas.md>), [red-mad-robot](<https://devfeed.tech/tags/red-mad-robot.md>), [router](<https://devfeed.tech/tags/router.md>), [tag-9d8cf70dc46c](<https://devfeed.tech/tags/tag-9d8cf70dc46c.md>), [tag-b6914c0b0244](<https://devfeed.tech/tags/tag-b6914c0b0244.md>), [tag-e0bf7a3b3c2d](<https://devfeed.tech/tags/tag-e0bf7a3b3c2d.md>), [tag-e95ee8b94dca](<https://devfeed.tech/tags/tag-e95ee8b94dca.md>), [vision](<https://devfeed.tech/tags/vision.md>), [workflow](<https://devfeed.tech/tags/workflow.md>)

### AI overview

The NDT by red_mad_robot team describes a smart platform with two workflow AI agents for the FSK Group. One agent answers counterparties' frequently asked questions, while the other helps employees search internal documents and access the corporate knowledge base. The article discusses document processing, including PDF extraction, OCR, and vision-language models, with an emphasis on reducing incorrect AI responses.

### Source excerpt

Привет! На связи команда NDT by red_mad_robot. Рассказываем, как создавали смарт-платформу с двумя AI-агентами для группы компаний ФСК -- одного из крупнейших российских девелоперов. Система автоматизировала работу с данными и значительно снизила нагрузку на сотрудников технической поддержки и коммерческого департамента. Читать далее