# атрибуционная модель данных

Published articles for атрибуционная модель данных.

This is one page of public article previews, not the complete archive. Follow Next page to continue. Summaries are not the original full articles.

## Detecting hallucinations in RAG systems with circuit tracing and attribution graphs

DevFeed: [Detecting hallucinations in RAG systems with circuit tracing and attribution graphs](<https://devfeed.tech/articles/circuit-tracing-24026.md>)

Original publisher: [Read original article](<https://habr.com/ru/companies/redmadrobot/articles/951118/>)

Author: IrinaKoshkina (red\_mad\_robot)

Published: 2025-09-26T18:30:09Z

Content type: tutorial

Language: ru

Sources: [Redmadrobot EN](<https://devfeed.tech/sources/redmadrobot-en.md>), [Redmadrobot RU](<https://devfeed.tech/sources/redmadrobot-ru.md>)

Topics: [Large Language Model](<https://devfeed.tech/topics/llm.md>), [Retrieval Augmented Generation (RAG)](<https://devfeed.tech/topics/retrieval-augmented-generation-rag.md>), [Natural language processing](<https://devfeed.tech/topics/nlp.md>), [anthropic](<https://devfeed.tech/topics/anthropic.md>)

Tags: [anthropic](<https://devfeed.tech/tags/anthropic.md>), [circuit](<https://devfeed.tech/tags/circuit.md>), [llm](<https://devfeed.tech/tags/llm.md>), [nlp](<https://devfeed.tech/tags/nlp.md>), [rag](<https://devfeed.tech/tags/rag.md>), [red-mad-robot](<https://devfeed.tech/tags/red-mad-robot.md>), [tag-0444141ce356](<https://devfeed.tech/tags/tag-0444141ce356.md>), [tag-3f4d1152a2b4](<https://devfeed.tech/tags/tag-3f4d1152a2b4.md>), [tag-73f5f2c76797](<https://devfeed.tech/tags/tag-73f5f2c76797.md>), [tag-b6914c0b0244](<https://devfeed.tech/tags/tag-b6914c0b0244.md>), [tag-d27a0708d400](<https://devfeed.tech/tags/tag-d27a0708d400.md>), [tracing](<https://devfeed.tech/tags/tracing.md>), [transcoder](<https://devfeed.tech/tags/transcoder.md>)

### AI overview

The article explains an approach to detecting hallucinations in retrieval-augmented generation systems by examining model computation graphs with Anthropic's framework, cross-layer transcoders, and attribution graphs. It presents an implementation for analyzing Qwen2.5-7B and reports 85% detection accuracy on a test dataset for a simple implementation.

### Source excerpt

Всем привет! Меня зовут Ирина, я NLP-инженер в red_mad_robot, занимаюсь научными исследованиями интерпретируемости LLM и анализом механизмов внутренних вычислений моделей, чтобы применять полученные результаты на практике. Например, сегодня хочу рассказать, как мы подошли к решению задачи детекции галлюцинаций LLM в RAG системах со стороны исследования графов размышлений модели -- с помощью интересного фреймворка от Anthropic. В статье поговорим, как использовать cross-layer transcoders и атрибуционные графы для детекции галлюцинаций в RAG системах. Рассмотрим пример реализации детектора на графах для анализа модели Qwen2.5-7B и практические примеры использования. Спойлер: на простой реализации получили точность детекции 85% на тестовом датасете. Читать далее