ai newsDo., 22. Okt.
EilmeldungLiquid AI Launches RIPL, a Real-Time Inference Engine for Sub-50 ms LFMs

How IskayPet unified corporate knowledge with Amazon Bedrock Managed Knowledge Bases

Learn how IskayPet, a leading pet care company in Iberia, built a multilingual corporate knowledge assistant on Amazon Bedrock Managed Knowledge Bases. The assistant answers employee questions across retail, veterinary, onboarding, and procurement in four languages and three countries, with no RAG i

AWS ML BlogDonnerstag 20:01 · 22.10.6 Min. Lesezeit
Bild: AWS ML Blog

Die Office-Teams von IskayPet hatten eine Herausforderung beim Umgang mit Wissen. Antworten auf alltägliche operative Fragen, etwa zu einer Rückgaberichtlinie, einem veterinärmedizinischen Protokoll oder einem Onboarding-Schritt, lagen in Hunderten von Microsoft-SharePoint-Dokumenten, verteilt über vier Sprachen und drei Länder. Die Suche nach der richtigen Information in großen Dokumentbeständen dauerte lange. Mit jedem neuen Standort, Land oder jeder neuen Prozedur wurde das Problem größer.

Retrieval Augmented Generation (RAG) ist der übliche Weg, um dies zu lösen. Der Betrieb von RAG in der Produktion bedeutet jedoch in der Regel, dass man Vektordatenbanken, Embedding-Pipelines und Ingestion-Jobs selbst betreibt.

In diesem Beitrag zeigen wir, wie IskayPet, ein führendes Unternehmen für Heimtierbedarf auf der Iberischen Halbinsel, einen Unternehmenswissensassistenten auf Basis von Amazon Bedrock Managed Knowledge Bases aufgebaut hat. Der Assistent beantwortet Mitarbeiterfragen zu Einzelhandelsabläufen, Tierarztversorgung, Personal- und Onboarding-Themen sowie Beschaffung, in vier Sprachen und über drei Länder hinweg, ohne dass eine RAG-Infrastruktur verwaltet werden muss. Das Team hat die gesamte Lösung entwickelt, vom Frontend für die Filialen bis zur AWS-Architektur und dem Deployment, und dabei Kiro mit Claude Haiku 4.5 verwendet. Wir beleuchten die Architektur, die SharePoint-Integration, die Entscheidungen bei der Retrieval-Konfiguration und die Ergebnisse in der Produktion.

IskayPet ist ein führendes Unternehmen für Heimtierbedarf auf der Iberischen Halbinsel. Es betreibt mehr als 330 Filialen in Spanien, Portugal und Frankreich unter den Marken Kiwoko, Tiendanimal, Kivet, Clinicanimal und Animalis. Mit mehr als 4.500 Mitarbeitern und 7 Millionen Kunden umfasst das Geschäft von IskayPet den Einzelhandel, Tierkliniken, Tierpflege, Beschaffung sowie Personal- und Onboarding-Themen. Jeder Bereich hat seine eigenen Richtlinien und Verfahren, auf Spanisch, Portugiesisch, Französisch und Englisch.

In allen Geschäftsbereichen durchsuchten die Office-Mitarbeitenden von IskayPet Hunderte von SharePoint-Dokumenten von Hand, um operative Fragen zu Verfahren, Richtlinien, Verträgen und Onboarding zu beantworten. Mit Aktivitäten in drei Ländern und vier Sprachen kostete dies erhebliche Zeit, und die Antwort war oft veraltet oder falsch.

Es gab keine zuverlässige Möglichkeit, Unternehmenswissen abzufragen, und das Problem wuchs mit jedem hinzugefügten Land, Bereich oder Dokument. IskayPet benötigte eine Lösung, die Folgendes leisten konnte:

IskayPet entschied sich für Amazon Bedrock Managed Knowledge Bases wegen der verwalteten RAG-Infrastruktur, die den Betrieb von Vektorspeichern, Embeddings oder Ingestion-Pipelines überflüssig machte. Die wichtigsten Gründe waren:

Das folgende Diagramm zeigt den End-to-End-Ablauf, von der Frage der Mitarbeitenden über das berechtigungsabhängige Retrieval bis zur fundierten, mit Quellen versehenen Antwort.

Die Lösung ist ein Assistent, den Mitarbeitende über ihre bestehenden Kanäle erreichen. Wenn ein Mitarbeitender eine Frage stellt, ruft der Assistent die relevantesten Passagen aus seiner Wissensbasis ab, beschränkt auf die Dokumente, die der Mitarbeitende lesen darf. Anschließend generiert er eine fundierte, mit Quellen versehene Antwort in der Sprache des Mitarbeitenden.

Auf hoher Ebene funktioniert der Ablauf wie folgt:

IskayPet hat die gesamte Lösung entwickelt, vom Frontend für die Filialen bis zur AWS-Architektur und dem Deployment der Dienste, und dabei Kiro verwendet, die agentische Entwicklungsumgebung, betrieben mit Claude Haiku 4.5 auf Amazon Bedrock. Sobald neue Modelle auf Amazon Bedrock verfügbar sind, plant IskayPet, diese für jeden Anwendungsfall zu evaluieren und einzuführen.

Informationen zur Modellverfügbarkeit nach AWS-Region finden Sie unter Supported models by AWS Region in Amazon Bedrock.

Ein agentischer Workflow mit Kiro und einem schnellen, kosteneffizienten Modell wie Claude Haiku 4.5 half einem kleinen Team, schnell von der Idee zur Produktion zu gelangen. Er sorgte auch dafür, dass Anwendungscode und Infrastruktur konsistent und wartbar blieben.

Die Dokumente von IskayPet lagen bereits in SharePoint, organisiert nach Bereich und Land. Statt sie zu migrieren, nutzte das Team den nativen SharePoint-Connector in Amazon Bedrock Managed Knowledge Bases.

In den erweiterten Konfigurationen der Datenquelle, unter Content indexing und Advanced indexing, aktivierte IskayPet die Option Visual content in documents. Diese Einstellung extrahiert Inhalte aus in Dokumenten eingebetteten Bildern (PDF, DOCX, PPTX) sowie aus eigenständigen Bildern. Abbildungen und eingescannte Inhalte in Verfahrensdokumenten wurden dadurch durchsuchbar, ohne eine separate Preprocessing-Pipeline.

Der Connector synchronisiert inkrementell, sodass neue und aktualisierte Dokumente bei jeder Synchronisierung erfasst werden.

Eine zentrale Designentscheidung war die Strukturierung des Wissens für vier Sprachen, mehrere Geschäftsbereiche und drei Länder. IskayPet wog zwei Ansätze gegeneinander ab:

IskayPet wählte eine Wissensbasis pro Assistent. Jeder Assistent verweist auf bestimmte SharePoint-Sites und kann über Inclusion Paths weiter auf bestimmte Dokumentbibliotheken oder Ordner eingeschränkt werden, sodass nur die vorgesehenen Inhalte und nicht die gesamte Unternehmenssite indiziert werden. Das Hinzufügen eines neuen Bereichs oder Landes bedeutet, einen Assistenten hinzuzufügen und ihn auf die richtigen Inhalte zu verweisen, nicht die Architektur des Systems umzubauen.

Der Zugriff wird über die bestehenden SharePoint-Berechtigungen der Nutzer geregelt. Der Assistent gewährt keinen neuen Zugriff: Er erleichtert lediglich die Abfrage von Dokumenten, die ein Mitarbeitender bereits öffnen konnte. Dies funktioniert auf zwei Ebenen.

Da die Berechtigungen bei jeder Zugriffskontrolle aus SharePoint gelesen werden, wird das Entziehen oder Gewähren von Zugriffsrechten in SharePoint ohne Änderungen an der Anwendung im Assistenten berücksichtigt.

Die Qualität eines RAG-Systems wird hauptsächlich bei Ingestion, Retrieval und Generierung entschieden. Fine-tuning ist eine ergänzende Technik. Für diesen Anwendungsfall hat IskayPet die folgenden Einstellungen angepasst:

Als Produktionskontrolle fügt das Team derzeit Amazon Bedrock Guardrails hinzu, um Inhaltsfilterung und Richtlinien für verantwortungsvolle KI auf die generierten Antworten anzuwenden.

Für die Antwortgenerierung verwendet IskayPet ein kosteneffizientes Foundation Model auf Amazon Bedrock. Da die Wissensbasis Retrieval und Generierung entkoppelt, kann IskayPet das Generierungsmodell austauschen oder aufrüsten, ohne die Ingestion- oder Retrieval-Ebenen anzufassen. So kann das Team Kosten und Antwortqualität im Wachstum der Nutzung ausbalancieren.

Die Wissensbasis umfasst multimodales Parsing, Embedding-Generierung und Reranking ohne zusätzliche Kosten, sodass die laufenden Kosten von IskayPet hauptsächlich aus der Indexspeicherung, Retrieval-API-Aufrufen und Tokens des Generierungsmodells bestehen. In der Produktion dominieren die Input-Tokens diese Kosten, bedingt durch die in jeden Prompt eingefügten Passagen. Das Team evaluiert weitere Optimierungen mit wachsender Nutzung, darunter Prompt Caching für den stabilen Teil des Prompts und Batch-Inferenz für nicht-interaktive Workloads.

In den ersten zwei Monaten in der Produktion hat IskayPet Folgendes beobachtet:

IskayPet hat einen produktiven Unternehmenswissensassistenten auf Amazon Bedrock Managed Knowledge Bases aufgebaut, der drei Länder, vier Sprachen und mehrere Geschäftsbereiche bedient, ohne dass eine RAG-Infrastruktur betrieben werden muss. Der native SharePoint-Connector nutzte die bestehenden Repositories. Eine eigene Wissensbasis pro Assistent ermöglichte ein sauberes Multi-Länder-Design, bei dem jede Domain durchgängig isoliert ist. Verwaltetes Parsing, Embedding und Reranking hielten sowohl den operativen Aufwand als auch die Kosten niedrig. Die Entwicklung des Frontends und der AWS-Architektur mit Kiro und Claude Haiku 4.5 erlaubte es einem kleinen Team, schnell in die Produktion zu gelangen.

Wenn Sie vor einer ähnlichen Herausforderung beim Wissensabruf stehen, können Sie mit dem AWS Free Tier starten und Ihre erste Wissensbasis in der Amazon-Bedrock-Konsole aufbauen. Für einen vertieften Einstieg sehen Sie sich die folgenden Ressourcen an und testen Sie den SharePoint-Connector und die dokumentenbasierte Zugriffskontrolle mit Ihren eigenen Dokumenten.

Weitere Informationen finden Sie unter Amazon Bedrock Managed Knowledge Base und Evaluate the performance of RAG sources using Amazon Bedrock evaluations.

Daniel ist Senior Solutions Architect bei AWS, wo er sich auf die Beratung von Enterprise-Kunden auf der Iberischen Halbinsel bei ihrer Cloud-Adoption sowie die Umsetzung von Anwendungsfällen für künstliche Intelligenz konzentriert. Er ist begeistert davon, komplexe geschäftliche Herausforderungen mit Cloud-Technologie zu lösen.

Irene ist GenAI & ML Specialist Solutions Architect bei AWS. Sie leitete das Enablement von Amazon Bedrock, Amazon Bedrock AgentCore und Knowledge Bases für IskayPet und arbeitet mit Enterprise-Kunden auf der Iberischen Halbinsel im Bereich generative KI.

Arturo ist AI Engineer im Data-&-AI-Team von IskayPet. Er entwickelt die Weiterentwicklung der Datenplattform von IskayPet sowie Projekte im Bereich generative KI.

Francisca ist Data Manager bei IskayPet, wo sie für die Datenplattform hinter dem Lakehouse der Gruppe verantwortlich ist und als Projektmanagerin das Portfolio der KI-Anwendungsfälle leitet. Sie arbeitet an der Schnittstelle von Business, Technologie und Governance, um operative Daten in Produkte umzuwandeln, auf die sich die Organisation verlassen kann.

Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.

Original (Englisch) anzeigen

IskayPet’s office teams had a knowledge challenge. Answers to everyday operational questions, such as a return policy, a veterinary protocol, or an onboarding step, lived in hundreds of Microsoft SharePoint documents spread across four languages and three countries. Finding the right information in large document repositories took a long time. Every new store, country, or procedure made the problem bigger.

Retrieval Augmented Generation (RAG) is the usual way to solve this. But running RAG in production normally means operating vector databases, embedding pipelines, and ingestion jobs yourself.

In this post, we show how IskayPet, a leading pet care company in Iberia, built a corporate knowledge assistant on Amazon Bedrock Managed Knowledge Bases. The assistant answers employee questions across retail operations, veterinary care, people and onboarding, and procurement, in four languages and across three countries, with no RAG infrastructure to manage. The team built the whole solution, from the store-facing frontend to the AWS architecture and deployment, using Kiro with Claude Haiku 4.5. We cover the architecture, the SharePoint integration, the retrieval configuration decisions, and the results in production.

IskayPet is a leading pet care company in Iberia. It operates more than 330 stores across Spain, Portugal, and France under the Kiwoko, Tiendanimal, Kivet, Clinicanimal and Animalis brands. With more than 4,500 employees and 7 million customers, IskayPet runs operations that span retail, veterinary clinics, animal care, procurement, and people and onboarding. Each area has its own policies and procedures, in Spanish, Portuguese, French, and English.

Across every business area, IskayPet office staff searched hundreds of SharePoint documents by hand to answer operational questions about procedures, policies, contracts, and onboarding. With operations in three countries and four languages, this took real time, and the answer was often outdated or wrong.

There was no reliable way to query corporate knowledge, and the problem grew with every country, area, or document added. IskayPet needed a solution that could do the following:

IskayPet chose Amazon Bedrock Managed Knowledge Bases for its managed RAG infrastructure, which removed the need to run vector stores, embeddings, or ingestion pipelines. The main reasons were:

The following diagram shows the end-to-end flow, from the employee’s question through permission-aware retrieval to the grounded, cited answer.

The solution is an assistant that employees reach through their existing channels. When an employee asks a question, the assistant retrieves the most relevant passages from its knowledge base, restricted to the documents the employee is allowed to read. It then generates a grounded, cited answer in the employee’s language.

At a high level, the flow works as follows:

IskayPet built the whole solution, from the store-facing frontend to the AWS architecture and service deployment, using Kiro, the agentic development environment, running on Claude Haiku 4.5 on Amazon Bedrock. As new models become available on Amazon Bedrock, IskayPet plans to evaluate and adopt them for each use case.

For model availability by AWS Region, see Supported models by AWS Region in Amazon Bedrock.

An agentic workflow with Kiro and a fast, cost-effective model like Claude Haiku 4.5 helped a small team move from concept to production quickly. It also kept the application code and the infrastructure consistent and maintainable.

IskayPet’s documents already lived in SharePoint, organized by area and country. Rather than migrate them, the team used the native SharePoint connector in Amazon Bedrock Managed Knowledge Bases.

In the data source’s Advanced configurations, under Content indexing and Advanced indexing, IskayPet enabled Visual content in documents. This setting extracts content from images embedded in documents (PDF, DOCX, PPTX) and from standalone images. Figures and scanned content inside procedure documents became searchable without a separate preprocessing pipeline.

The connector syncs incrementally, so new and updated documents are picked up on each sync.

A key design decision was how to structure knowledge for four languages, several business areas, and three countries. IskayPet weighed two approaches:

IskayPet chose a knowledge base per assistant. Each assistant points at specific SharePoint sites and can be narrowed further to specific document libraries or folders through inclusion paths, so it indexes only the intended content and not the whole corporate site. Adding a new area or country means adding an assistant and pointing it at the right content, not re-architecting the system.

Access is governed by the users’ existing SharePoint permissions. The assistant doesn’t grant access to anything new: It only makes it more straightforward to query documents an employee could already open. This works on two levels.

Because permissions are read from SharePoint on every access check, revoking or granting access in SharePoint is reflected in the assistant without changes to the application.

The quality of a RAG system is decided mainly at ingestion, retrieval, and generation. Fine-tuning is a complementary technique. For this use case, IskayPet tuned the following settings:

As a production control, the team is adding Amazon Bedrock Guardrails to apply content filtering and responsible AI policies to the generated answers.

For answer generation, IskayPet uses a cost-effective foundation model on Amazon Bedrock. Because the knowledge base decouples retrieval from generation, IskayPet can switch or upgrade the generation model without touching the ingestion or retrieval layers. This lets the team balance cost and answer quality as usage grows.

The knowledge base includes multimodal parsing, embedding generation, and reranking at no additional charge, so IskayPet’s ongoing cost comes mainly from index storage, retrieval API calls, and generation-model tokens. In production, input tokens dominate that cost, because of the passages injected into each prompt. The team is evaluating further optimizations as usage grows, including prompt caching for the stable part of the prompt and batch inference for non-interactive workloads.

In roughly the first two months in production, IskayPet has seen:

IskayPet built a production corporate knowledge assistant on Amazon Bedrock Managed Knowledge Bases that serves three countries, four languages, and several business areas, with no RAG infrastructure to run. The native SharePoint connector reused their existing repositories. A dedicated knowledge base per assistant gave them a clean multi-country design with each domain isolated end to end. Managed parsing, embedding, and reranking kept both operational effort and cost low. Building the frontend and the AWS architecture with Kiro and Claude Haiku 4.5 lets a small team reach production quickly.

If you’re facing a similar knowledge-retrieval challenge, you can start on the AWS Free Tier and build your first knowledge base on the Amazon Bedrock console. To go deeper, see the following resources and try the SharePoint connector and document-level access control against your own documents.

To learn more, see Amazon Bedrock Managed Knowledge Base and Evaluate the performance of RAG sources using Amazon Bedrock evaluations.

Daniel is a Senior Solutions Architect at AWS, where he has been focused on guiding enterprise customers in Iberia in their cloud adoption, as well as implementing artificial intelligence use cases. He is passionate about solving complex business challenges with cloud technology.

Irene is a GenAI & ML Specialist Solutions Architect at AWS. She led the Amazon Bedrock, Amazon Bedrock AgentCore, and Knowledge Bases enablement for IskayPet and works with enterprise customers across Iberia on generative AI.

Arturo is an AI Engineer in the Data & AI team at IskayPet. He has been making the developments of the Iskaypet data platform as well as projects involving generative AI.

Francisca is the Data Manager at IskayPet, where she owns the data platform behind the group’s lakehouse and leads the portfolio of AI use cases as project manager. She works across business, technology and governance to turn operational data into products the organization can rely on.

Quelle: AWS ML Blog (AWS ML Blog). Original öffnen