Was geht hier im Sub ab?
Mir ist vermehrt in den letzten Wochen aufgefallen, dass hier auffällig viele Beiträge und Kommentare auftauchen, die erkennbar aus einem LLM kommen – und zwar ungeprüft.
Die Muster sind immer ähnlich: Eine Wand aus Paragraphen, die sich gut anhört, bei näherem Hinsehen aber juristisch nicht zusammenpasst. IZG-SH wird bundesweit zitiert, das Bayerische Pressegesetz für Privatpersonen, Art. 15 DSGVO als Allzweck-Türöffner für sämtliche Informationen einer Behörde. Manchmal bleiben sogar Reste wie „Serviervorschlag" oder Platzhalter im Text stehen.
Ehrlich gesagt schwanke ich zwischen amüsiert und genervt. Amüsiert, weil manche Konstrukte so kreativ falsch sind, dass es schon wieder Kunst ist. Genervt, weil:
- Leute solche Texte ungeprüft an Behörden schicken und sich damit selbst im Weg stehen.
- Echte Fragen im Rauschen untergehen.
- Sich eine Pseudo-Kompetenz etabliert, die niemandem hilft – am wenigsten dem Fragesteller selbst.
An die Fachleute hier: Seht ihr das auch so, oder übertreibe ich? Begegnet euch das im Berufsalltag, und wie geht ihr damit um?
Mir geht es nicht darum, KI grundsätzlich zu verteufeln – als Recherchehilfe oder zum Strukturieren kann sie sinnvoll sein. Aber der Schritt „Output prüfen, bevor man ihn als Rechtsmeinung verkauft" scheint zunehmend ausgelassen zu werden.