Ich habe mein komplettes Genom sequenzieren lassen. Was man dann bekommt, ist ernüchternd: Gigabytes an Rohdateien, Millionen Varianten, kryptische Kürzel. Kein Mensch liest das. Also habe ich einen Agenten gebaut, mit dem ich einfach reden kann. „Wie verstoffwechsle ich Koffein?" Antwort in Sekunden, mit Quellenangabe.
Das Projekt war ursprünglich nur für mich. Aber es ist inzwischen das beste Anschauungsstück dafür, wie ich Agenten auf privaten Daten baue. Deshalb schreibe ich es auf.
Das Problem an großen privaten Datensätzen
Der naive Ansatz wäre: Alle Daten ins Prompt kippen und das Modell fragen. Das scheitert an drei Dingen gleichzeitig. Die Daten sind zu groß für jedes Kontextfenster. Es wäre absurd teuer. Und ich müsste hochsensible Gesundheitsdaten an einen fremden Anbieter schicken.
Alle drei Probleme haben denselben Ursprung: die Annahme, das Modell müsse alles sehen. Muss es nicht.
Der Agent holt sich, was er braucht
Stattdessen hat mein Agent 30 Werkzeuge. Gene nachschlagen, Varianten suchen, Wirkstoff-Interaktionen prüfen, Studien aus öffentlichen Katalogen ziehen, in einem Wissensgraphen Nachbarn finden, und als letzte Instanz eine SQL-Abfrage über die lokale Datenbank.
Wenn ich eine Frage stelle, entscheidet das Modell selbst, welche Werkzeuge es aufruft und in welcher Reihenfolge. Für „Wie verstoffwechsle ich Koffein?" schlägt es das relevante Gen nach, prüft die Stoffwechsel-Tabelle und holt sich eine passende Studie zur Einordnung. Drei, vier gezielte Zugriffe statt Millionen Zeilen im Prompt.
Das macht die Antworten schnell und billig, weil pro Frage nur ein paar Zeilen bewegt werden. Und die Rohdaten verlassen nie das Gerät: Der Server läuft auf einem Mac mini bei mir zu Hause, erreichbar nur über mein eigenes privates Netz.
Die eine Regel, die alles trägt: kein Beleg, keine Antwort
Bei Gesundheitsdaten ist eine erfundene Antwort schlimmer als keine. Deshalb ist der Agent so gebaut, dass jede Aussage eine Quelle mitliefert. Findet er keine belastbare Quelle, sagt er das, statt zu raten. Das klingt streng, ist aber die einzige Art, so einem System überhaupt vertrauen zu können.
Dieselbe Regel baue ich in Agenten für Firmen ein. Ein Support-Agent, der eine Retourenfrist aus dem Nichts erfindet, ist gefährlicher als einer, der ehrlich „weiß ich nicht" sagt und eskaliert.
Was das mit eurem Unternehmen zu tun hat
Tauscht „mein Genom" gegen „eure Verträge", „euer Produktkatalog" oder „eure Wissensdatenbank". Das Muster ist identisch: ein großer, sensibler, unordentlicher Datenbestand, über den jemand in normaler Sprache reden können soll, ohne dass die Daten in eine fremde Cloud wandern.
Die Bausteine, die ich für mein Genom gebaut habe, sind dieselben, die ein Mittelständler braucht, der seinen Mitarbeitern einen Agenten über die eigenen Dokumente geben will: Die Daten bleiben auf dem Gerät, jede Antwort hat eine Quelle, und geholt wird nur, was die Frage braucht. Ich habe es an dem privatesten Datensatz getestet, den ich habe.