Publicação
Securing retrieval-augmented generation
| datacite.subject.fos | Engenharia e Tecnologia::Engenharia Eletrotécnica, Eletrónica e Informática | |
| datacite.subject.sdg | 09:Indústria, Inovação e Infraestruturas | |
| dc.contributor.advisor | Pereira, Isabel Cecília Correia da Silva Praça Gomes | |
| dc.contributor.advisor | Maia, Eva Catarina Gomes | |
| dc.contributor.author | PEREIRA, PEDRO EMANUEL SOUSA | |
| dc.date.accessioned | 2026-09-23T14:54:02Z | |
| dc.date.available | 2026-09-23T14:54:02Z | |
| dc.date.issued | 2026-06-30 | |
| dc.description.abstract | Retrieval-Augmented Generation (RAG) systems improve the factual grounding of language models by retrieving external documents before generating an answer. However, this dependence on external knowledge also creates a security risk, if the retrieval corpus is poisoned, the generated response may become incorrect while still appearing evidence-based. This thesis investigates the robustness of RAG pipelines against knowledge-base poisoning attacks. It rst analyzes how retrieval architecture, retrieval depth, database composition, chunking, dataset characteristics, and generator choice in uence poisoning vulnerability. The results show that robustness is a pipeline-level property, dense and graph-based retrieval are generally more resistant than lexical retrieval, but larger top-K values and poisoned multi-database settings increase exposure to adversarial content. The thesis then introduces Micro Collaborative Poisoning, a distributed attack in which several small, plausible poisoned documents collectively support the same false claim. Experiments show that this attack is less obvious at the document level than stronger concentrated poisoning, yet it can still achieve comparable downstream attack success. Overall, the ndings demonstrate that trustworthy RAG systems require defenses that combine robust retrieval, source integrity, cross-document analysis, and cautious generation. | eng |
| dc.description.abstract | Sistemas de Retrieval-Augmented Generation (RAG) melhoram o rigor factual dos modelos de linguagem através da análise de documentos externos antes de gerar uma resposta. No entanto, esta dependência no conhecimento externo cria também um risco de segurança: se o corpus de recuperação for adulterado a resposta gerada pode tornar-se incorreta mas continuar a parecer fundamentada em evidências. Esta tese investiga a robustez das pipelines RAG contra ataques de envenenamento da base de conhecimento. Começa por analisar de que forma a arquitetura de recuperação, a profundidade de recuperação, a composição da base de dados, a segmentação do texto em blocos, as características do conjunto de dados e a escolha do gerador influenciam a vulnerabilidade ao envenenamento. Os resultados mostram que a robustez é uma propriedade ao nível do pipeline, a recuperação densa ou a baseada em grafos é geralmente mais resistente do que a recuperação léxica, mas valores de top-K mais elevados e ambientes de múltiplas bases de dados envenenadas aumentam a exposição a conteúdo adverso. Esta tese apresenta depois o Micro Collaborative Poisoning, um ataque distribuído em que vários documentos plausíveis e com pequeno conteúdo adversarial sustentam coletivamente a mesma afirmação falsa. As experiências demonstram que este ataque é menos evidente do que um envenenamento concentrado mais intenso, sendo ainda capaz de alcançar um sucesso comparável na eficácia do ataque. Em geral, os resultados demonstram que sistemas RAG fiáveis requerem defesas que combinem recuperação robusta, integridade das fontes, análise entre documentos e geração cautelosa. | por |
| dc.identifier.tid | 204362024 | |
| dc.identifier.uri | http://hdl.handle.net/10400.22/32866 | |
| dc.language.iso | eng | |
| dc.rights.uri | N/A | |
| dc.subject | Retrieval-Augmented Generation | |
| dc.subject | RAG Security | |
| dc.subject | Data Poisoning | |
| dc.subject | Knowledge-Base Poisoning | |
| dc.subject | Micro Collaborative Poisoning | |
| dc.subject | Robust Retrieval | |
| dc.subject | Recuperação aumentada por geração | |
| dc.subject | Segurança de RAG | |
| dc.subject | Envenenamento de dados | |
| dc.subject | Envenenamento da base de conhecimento | |
| dc.subject | Micro collaborative poisoning | |
| dc.subject | Recuperação robusta | |
| dc.title | Securing retrieval-augmented generation | eng |
| dc.type | master thesis | |
| dspace.entity.type | Publication | |
| thesis.degree.name | Mestrado em Engenharia de Inteligência Artificial |