LOCAL AI

MITEO

Eine lokale Sprachassistenz für ältere Menschen. Technik soll den Alltag leichter machen, nicht komplizierter.

Nicht jeder möchte mit einem Computer diskutieren

Manchmal merkt man erst im eigenen Umfeld, wie umständlich Dinge geworden sind, die eigentlich einfach sein sollten. Ein Termin steht irgendwo in einer App, eine Erinnerung kommt auf dem falschen Gerät und für eine kurze Frage soll man sich erst durch drei Menüs hangeln. Wer mit Smartphones und Computern aufgewachsen ist, findet das vielleicht noch halbwegs normal. Für andere ist es schlicht anstrengend.

Aus diesem Gedanken heraus ist MITEO entstanden. Ich möchte eine sprachgesteuerte Assistenz entwickeln, die insbesondere älteren Menschen im Alltag hilft. Keine weitere App, die man erst verstehen muss. Im Idealfall spricht man mit dem System, bekommt eine verständliche Antwort und kann sich wieder anderen Dingen widmen.

Natürlich bin ich nicht der Erste, der auf diese Idee kommt. Im Internet gibt es mittlerweile reichlich Projekte, Anleitungen und fertige Lösungen. Von diversen “JARVIS-Implementierungen” über OpenVoiceOS und Rhasspy bis hin zu Home Assistant Assist. Man könnte sich also durchaus eine bestehende Lösung installieren, konfigurieren und wäre vermutlich wesentlich schneller am Ziel.

Aber wo bleibt denn da der Spaß?

Mich interessiert nicht nur, dass eine Sprachassistenz funktioniert, sondern vor allem, wie sie funktioniert. Wie erkennt ein System, dass es angesprochen wird? Wie wird aus gesprochener Sprache ein Text und daraus eine sinnvolle Antwort? Wie bekommt man das Ganze auf vergleichsweise bescheidener Hardware zum Laufen, ohne für jeden Satz einen Cloud-Dienst bemühen zu müssen?

Genau das möchte ich selbst herausfinden. Also baue ich MITEO von Grund auf, verwende dabei durchaus bestehende Bibliotheken und Modelle, kümmere mich aber selbst um die Architektur und das Zusammenspiel der Komponenten.

Ob das der schnellste Weg zu einem funktionierenden Assistenten ist? Ganz sicher nicht. Aber vermutlich der, bei dem ich am meisten lerne. Und genau darum geht es mir bei diesem Projekt eben auch.

Keine digitale Dauerüberwachung

Wenn ich schon eine Assistenz baue, die im persönlichen Umfeld eingesetzt werden soll, möchte ich auch wissen, was mit den gesprochenen Worten passiert. Eine dauerhafte Cloud-Verbindung als Voraussetzung kommt für mich deshalb nicht infrage.

MITEO soll grundsätzlich lokal laufen. Sprache erkennen, eine Anfrage verarbeiten und eine Antwort ausgeben, ohne dafür erst einen fremden Server fragen zu müssen. Gleichzeitig will ich nicht so tun, als wäre das Internet grundsätzlich verboten. Für aktuelle Informationen kann eine gezielte Recherche sinnvoll sein. Dann muss aber klar sein, wann auf externe Dienste zugegriffen wird und welche Informationen dabei übertragen werden.

Auch beim Protokollieren gilt für mich: So wenig wie möglich, so viel wie nötig. Geplant ist, relevante Auffälligkeiten oder Ereignisse festzuhalten, nicht vollständige Unterhaltungen auf Vorrat aufzuzeichnen. Wie das im Detail umgesetzt wird, gehört zu den Aufgaben, die noch sauber gelöst werden müssen.

Was die Assistenz einmal können soll

Ich denke dabei nicht an eine KI, die möglichst beeindruckend klingt. Interessanter sind ziemlich alltägliche Dinge:

Das ist die Richtung, in die ich MITEO entwickeln möchte. Es ist keine Liste bereits fertig implementierter Funktionen.

Unter der Haube: Hören, verstehen, antworten

Die technische Basis ist Linux Mint 22.3 XFCE mit Python 3.12. Bei der Sprachverarbeitung setze ich auf Bausteine, die sich lokal betreiben lassen:

  1. Audioeingabe: Ein Mikrofon nimmt die Sprache auf. Schon hier entscheidet sich viel, denn schlechte Aufnahmequalität kann die gesamte Verarbeitungskette ruinieren.
  2. Spracherkennung: Vosk mit dem deutschen Modell vosk-model-small-de-0.15 soll gesprochene Sprache in Text umwandeln.
  3. Dialog und Aktionen: Eine noch zu integrierende Logik muss entscheiden, was die Aussage bedeutet, wann eine Rückfrage nötig ist und ob überhaupt eine Aktion ausgeführt werden darf.
  4. Sprachausgabe: Piper soll die Antwort wieder hörbar machen. Für MITEO habe ich mich auf de_DE-thorsten-medium festgelegt.

Die Aufteilung ist bewusst gewählt. Ich möchte einzelne Komponenten austauschen oder verbessern können, ohne den kompletten Assistenten neu zu entwickeln. Ein gutes Spracherkennungsmodell nützt schließlich wenig, wenn die Dialoglogik jede zweite Äußerung falsch versteht.

Und nein, vier funktionierende Einzelkomponenten sind noch kein funktionierendes Gesamtsystem. Wer schon einmal Hardware, Audio und Software miteinander verheiratet hat, kennt den Unterschied.

Eine Plattform, keine Spezialanfertigung

MITEO entsteht zunächst für einen konkreten Anwendungsfall. Trotzdem möchte ich nicht bei einer Lösung landen, die nur auf genau einem Rechner und für genau eine Person funktioniert.

Deshalb sollen Nutzerprofile, Dialogregeln, Modelle, Audioeinstellungen und weitere Anpassungen außerhalb des Programmcodes konfigurierbar sein. Eine neue Stimme oder ein anderes Mikrofon sollte keine Quellcodeänderung erfordern. Und persönliche Informationen gehören nicht in fest verdrahtete Prompts oder Python-Dateien.

Das macht den Anfang etwas aufwendiger. Langfristig dürfte es aber deutlich angenehmer sein, als für jede Anpassung wieder irgendwo im Code herumzustochern.

Der aktuelle Stand ist noch Grundlagenarbeit

Die Linux-Umgebung und die Python-Laufzeit sind eingerichtet. Vosk ist installiert, die Piper-Stimme steht fest und die Audio- und Systemkonfiguration wurde begonnen. Insbesondere die Qualität des Mikrofons ist dabei kein Detail, das sich einfach wegkonfigurieren lässt.

Ein zuverlässig funktionierender Ablauf vom Wake-Word über die Erkennung und Verarbeitung bis zur gesprochenen Antwort ist noch nicht als Gesamtsystem nachgewiesen. Ebenso wenig sind Erinnerungen und Termine bereits als alltagstaugliche Funktionen bestätigt.

Als Nächstes geht es deshalb nicht darum, möglichst viele Fähigkeiten auf eine Liste zu schreiben. Ich möchte zunächst, dass das System ordentlich zuhört, sinnvoll reagiert und bei Fehlern nicht die Nerven verliert. Danach kommen die ersten klar abgegrenzten Alltagsszenarien.

Warum mir MITEO wichtig ist

Technisch ist das Projekt eine interessante Mischung aus Linux, Audioverarbeitung, lokaler KI und Softwarearchitektur. Persönlich steckt aber mehr dahinter. Wenn Technik einem Menschen ein bisschen Selbstständigkeit erhalten oder eine unnötige Hürde aus dem Alltag nehmen kann, dann ist das für mich ein ziemlich guter Grund, mich damit zu beschäftigen.

Ob MITEO diesen Anspruch irgendwann wirklich erfüllt, muss sich im Alltag zeigen. Nicht in einer schönen Demo, in der zufällig jeder Sprachbefehl beim ersten Mal erkannt wird.