Die öffentliche Einführung von ChatGPT und die Weiterentwicklung von GPT-4 durch OpenAI im Jahr 2022 haben den technologischen Fortschritt beschleunigt und die Möglichkeiten von Large Language Models (LLMs) weltweit verdeutlicht. Kleine und mittelständische Unternehmen (KMUs) stehen nun vor der Herausforderung, diese Technologien in ihre Prozesse und Produkte zu integrieren, um wettbewerbsfähig zu bleiben. Die Hochschule Offenburg hat daher das zukunftsweisende Forschungsprojekt LLM-Praxis gestartet. In diesem vom Bundesministerium für Bildung und Forschung geförderten, dreijährigen Projekt geht es darum, KMUs die Potenziale der disruptiven KI-Technologie zugänglich zu machen und dabei gleichzeitig die Herausforderungen im Bereich Datenschutz und technologische Abhängigkeiten zu bewältigen. Geleitet wird das Projekt von Prof. Dr. Janis Keuper (IMLA) und Prof. Dr. Oliver Korn (ACI).
Das Projekt bietet eine praxisnahe Lösung für die genannten Herausforderungen, indem es den KMUs ermöglicht, LLMs auf eigenen Infrastrukturen (On-Premise oder Private Cloud) bereitzustellen und individuell anzupassen. Die KMUs werden in die Lage versetzt, aktuelle Open-Source-LLMs effizient und sicher auf ihrer eigenen Infrastruktur zu betreiben und in ihre Geschäftsanwendungen zu integrieren. Besonderer Wert wird auf die Benutzerfreundlichkeit und die Nutzerakzeptanz gelegt. Dazu fokussiert sich die Forschung auf zwei Kernbereiche: Zum einen die technische Optimierung von LLMs, damit diese skalierbar und ressourcenschonend in realen Anwendungen genutzt werden können (IMLA). Zum anderen die Entwicklung nutzerzentrierter Mensch-Maschine-Schnittstellen, die empathische Interaktionen zwischen LLM-basierten Agenten und ihren Nutzern ermöglichen (ACI). Durch den agilen Ansatz sollen die Forschungsergebnisse frühzeitig in realen Anwendungen nutzbar gemacht werden. Neben den technologischen Entwicklungen liegt ein besonderer Fokus auf der Berücksichtigung ethischer und rechtlicher Aspekte wie Datenschutz und Quellenangabe, um den sicheren Einsatz von LLMs in europäischen Unternehmen zu gewährleisten.
Ein starkes Netzwerk
Das Projekt wird in enger Zusammenarbeit mit renommierten Unternehmenspartnern wie Markant International Services GmbH, Schrempp EDV GmbH, SevDesk GmbH und inovex GmbH durchgeführt. Diese Unternehmen werden gemeinsam mit der Hochschule Offenburg konkrete Anwendungsfälle wie zum Beispiel Coding-Assistenten und Chatbots realisieren und in ihren eigenen Produktivsystemen evaluieren.
Weitere Informationen gibt es auf der Webseite: https://www.llm-praxis.de/