Das Department Creative Technologies intensiviert seine Forschung im Bereich der generativen KI. Ziel ist es, neue Technologien nahtlos in Arbeitswelt und Alltag zu integrieren und bestehende Prozesse nachhaltig zu optimieren. Praxisnah und nutzungsorientiert werden vielseitig einsetzbare Algorithmen entwickelt – von der Verbesserung der KI-Sicherheit und des Datenschutzes bis hin zur Bekämpfung von Desinformation und der Unterstützung im Bildungsbereich. Erfahren Sie mehr über unsere wegweisenden Projekte und wie wir die Vertrauenswürdigkeit generativer Modelle vorantreiben.
GenAIedTech:Content Creation with Generative Artificial Intelligence for Interactive Educational Technologies
Das Projekt GenAIedTech erforscht den Einsatz generativer KI zur Erstellung von Bildungsinhalten in digitalen Lerntechnologien. Ziel ist es, maßgeschneiderte Multimedia-Inhalte effizient zu generieren und Mensch-KI Co-Creation-Prozesse zu entwickeln. Die Forschung konzentriert sich auf die Erstellung, Analyse, Planung und Umsetzung von Lernerfahrungen. Ergebnisse des Projekts sind die Entwicklung einer generativen KI-Pipeline, eines Benchmark-Datensatzes und Demonstrator-Anwendungsfälle, die EdTech-Unternehmen die Potenziale von KI zeigen. Darüber hinaus werden ethische und regulatorische Aspekte berücksichtigt, um die Einhaltung geltender Standards zu gewährleisten.
Förderung: FFG COIN Aufbau - FH-Forschung für die Wirtschaft 2024
Laufzeit: 05/2025 – 04/2029
Partner: TU Graz, Paris Lodron Universität Salzburg, PH Salzburg, Österreichisches Institut für angewandte Telekommunikation (ÖIAT)
Guardrails for RAG:Enhancing Privacy and Security (GREP)
Das Projekt GREP ist ein von Google gefördertes Projekt und adressiert Datenschutz- und Sicherheitsrisiken in Retrieval-Augmented Generation (RAG)-Systemen. Es entwickelt spezielle Sicherheitsmaßnahmen zur Minimierung der Risiken der ungewollten Offenlegung sensibler Daten durch RAG-Architekturen. Die Forschung umfasst die Integration von Guardrails in Open-Source-Lösungen, die Untersuchung von Bedrohungsszenarien und die Implementierung von Techniken zur Anonymisierung von Daten. Ziel ist es, sichere und datenschutzkonforme KI-Systeme im Einklang mit regulatorischen Anforderungen zu schaffen.
Förderung: Google Privacy Faculty Award 2024
Laufzeit: 07/2025 – 06/2026
FAIR-AI: Fostering Austria's Innovative Strength and Research Excellence in Artificial Intelligence
FAIR-AI untersucht die Herausforderungen der Einhaltung des europäischen KI-Gesetzes in der Entwicklung und Anwendung von KI-Technologien. Das Projekt zielt darauf ab, Risiken auf technischer, managementbezogener und gesellschaftlicher Ebene zu identifizieren und zu minimieren. Durch eine Bottom-up-Strategie werden praxisnahe Use Cases entwickelt, die typische Fallstricke in KI-Projekten aufzeigen. Ein zentrales Ergebnis ist die Entwicklung eines Empfehlungssystems, das Unternehmen bei der risikobewussten Implementierung von KI unterstützt.
Laufzeit: 01/2024 – 12/2026
Projektpartner: AIT Austrian Institute of Technology GmbH, Fachhochschule St. Pölten ForschungsGmbH, Brantner Österreich GmbH, Fabasoft R&D GmbH, DIBIT Messtechnik GmbH, onlim GmbH, Fachhochschule Technikum Wien, Research Institute AG & Co KG, Siemens Aktiengesellschaft Österreich, Österreichische Akademie der Wissenschaften, Fachhochschule Salzburg GmbH, JOANNEUM RESEARCH Forschungsgesellschaft mbH, Wirtschaftsuniversität Wien, eutema GmbH, Semantic Web Company GmbH, Women in AI Austria, WAI Austria, MD meinDienstplan GmbH, Austrian Standards International - Standardisierung und Innovation, Technische Universität Wien, Hochschule für Angewandte Wissenschaften Burgenland GmbH, SCHEIBER Solutions GmbH, Software Competence Center Hagenberg GmbH.
Programm: AI AUSTRIA Initiative, AI Austria 2022 (Vertrag), AI AUSTRIA Leitprojekt