# интерпретируемость

Published articles for интерпретируемость.

This is one page of public article previews, not the complete archive. Follow Next page to continue. Summaries are not the original full articles.

## Detecting hallucinations in RAG systems with circuit tracing and attribution graphs

DevFeed: [Detecting hallucinations in RAG systems with circuit tracing and attribution graphs](<https://devfeed.tech/articles/circuit-tracing-24026.md>)

Original publisher: [Read original article](<https://habr.com/ru/companies/redmadrobot/articles/951118/>)

Author: IrinaKoshkina (red\_mad\_robot)

Published: 2025-09-26T18:30:09Z

Content type: tutorial

Language: ru

Sources: [Redmadrobot EN](<https://devfeed.tech/sources/redmadrobot-en.md>), [Redmadrobot RU](<https://devfeed.tech/sources/redmadrobot-ru.md>)

Topics: [Large Language Model](<https://devfeed.tech/topics/llm.md>), [Retrieval Augmented Generation (RAG)](<https://devfeed.tech/topics/retrieval-augmented-generation-rag.md>), [Natural language processing](<https://devfeed.tech/topics/nlp.md>), [anthropic](<https://devfeed.tech/topics/anthropic.md>)

Tags: [anthropic](<https://devfeed.tech/tags/anthropic.md>), [circuit](<https://devfeed.tech/tags/circuit.md>), [llm](<https://devfeed.tech/tags/llm.md>), [nlp](<https://devfeed.tech/tags/nlp.md>), [rag](<https://devfeed.tech/tags/rag.md>), [red-mad-robot](<https://devfeed.tech/tags/red-mad-robot.md>), [tag-0444141ce356](<https://devfeed.tech/tags/tag-0444141ce356.md>), [tag-3f4d1152a2b4](<https://devfeed.tech/tags/tag-3f4d1152a2b4.md>), [tag-73f5f2c76797](<https://devfeed.tech/tags/tag-73f5f2c76797.md>), [tag-b6914c0b0244](<https://devfeed.tech/tags/tag-b6914c0b0244.md>), [tag-d27a0708d400](<https://devfeed.tech/tags/tag-d27a0708d400.md>), [tracing](<https://devfeed.tech/tags/tracing.md>), [transcoder](<https://devfeed.tech/tags/transcoder.md>)

### AI overview

The article explains an approach to detecting hallucinations in retrieval-augmented generation systems by examining model computation graphs with Anthropic's framework, cross-layer transcoders, and attribution graphs. It presents an implementation for analyzing Qwen2.5-7B and reports 85% detection accuracy on a test dataset for a simple implementation.

### Source excerpt

Всем привет! Меня зовут Ирина, я NLP-инженер в red_mad_robot, занимаюсь научными исследованиями интерпретируемости LLM и анализом механизмов внутренних вычислений моделей, чтобы применять полученные результаты на практике. Например, сегодня хочу рассказать, как мы подошли к решению задачи детекции галлюцинаций LLM в RAG системах со стороны исследования графов размышлений модели -- с помощью интересного фреймворка от Anthropic. В статье поговорим, как использовать cross-layer transcoders и атрибуционные графы для детекции галлюцинаций в RAG системах. Рассмотрим пример реализации детектора на графах для анализа модели Qwen2.5-7B и практические примеры использования. Спойлер: на простой реализации получили точность детекции 85% на тестовом датасете. Читать далее