← Zurück zum Blog

KI zieht ins eigene Haus ein und beginnt, Sicherheitslücken zu finden

In den letzten Wochen sind in der KI-Welt zwei Dinge zusammengekommen, die verändern, wie ich das nächste Jahr in der Softwareentwicklung planen würde. Ich habe auf LinkedIn jeweils einen Beitrag dazu veröffentlicht; hier folgt die ausführliche Fassung, mit Quellen und Zahlen an einem Ort.

Unternehmen können KI nahe am Stand der Technik jetzt im eigenen Haus betreiben

Bis vor Kurzem lagen die leistungsfähigsten Modelle bei externen Anbietern. Wer mit Kundendaten arbeitete, die das Haus nicht verlassen durften, musste sich entweder mit einem schwächeren, selbst gehosteten Modell begnügen oder für diesen Teil der Arbeit ganz auf KI verzichten.

Dieser Abstand ist kleiner geworden. Moonshot und Mistral haben die Gewichte ihrer Spitzenmodelle veröffentlicht, sodass ein Unternehmen sie auf eigenen Systemen betreiben kann, und Tencent hat am 4. November angekündigt, dass seine folgen würden. Laut einem Bericht schnitt das Modell von Moonshot in einem Agenten-Test mit beruflichen Aufgaben besser ab als GPT-6 Astra von OpenAI; eine externe Prüfstelle nennt der Bericht allerdings nicht. Modelle dieser Größe im eigenen Haus zu betreiben, erfordert nach wie vor leistungsfähige Hardware.

Ein Modell selbst zu betreiben, lohnt sich nur, wenn es zuverlässig bleibt, und hier ist das Bild gemischt. Das Halluzinations-Ranking von Vectara lässt Modelle Dokumente zusammenfassen und markiert mit einem automatischen Prüfer Aussagen, die das Dokument nicht stützt. Einige ältere oder kleinere Modelle mit offenen Gewichten erfinden in etwa 4% der Zusammenfassungen etwas hinzu und liegen damit nahe an den niedrigsten Raten geschlossener Modelle (etwa 3%, ebenfalls kleine Modelle). Führende Modelle schneiden meist schlechter ab, ob offen oder geschlossen: Die drei früheren Kimi-Modelle von Moonshot im Ranking liegen zwischen etwa 11% und 18%, geschlossene Modelle wie GPT-6 Astra und Claude Opus 5.5 bei etwa 9% bis 10%. Das Ranking, zuletzt am 22. Oktober aktualisiert, enthält die neuen Modelle noch nicht.

Kein Ranking beantwortet also die Frage für das Modell, das Sie tatsächlich einsetzen würden. Müsste ich für ein Team entscheiden, würde ich klein anfangen: zwei oder drei dieser Modelle mit den echten Kundenfragen des letzten Quartals laufen lassen und die Antworten nebeneinanderlegen. Das sagt mehr als jedes Ranking.

Karte mit der Überschrift „Unternehmen können KI nahe am Stand der Technik jetzt im eigenen Haus betreiben“ und einem Balkendiagramm mit dem Titel „Erfundene Fakten, Labor für Labor“: der Anteil der Dokumentzusammenfassungen mit erfundenen Fakten beim besten Modell jedes Labors mit mindestens fünf Modellen in Vectaras Test, Oktober 2026. OpenAI 3,1%, Google 3,3%, DeepSeek 4,2%, Mistral 4,5%, Qwen 4,8%, xAI 5,8%, Z.ai 9,3%, Anthropic 9,8%.

KI findet Lücken in der iPhone-Software

Die zweite Entwicklung betrifft die Sicherheit. Forschende, die mit der Sicherheits-KI von OpenAI arbeiteten, fanden Dutzende Schwachstellen in der Software von iPhone und Mac, wie Forbes am 17. November berichtete, und die beteiligte Sicherheitsfirma gibt an, dass Apple viele davon bereits behoben hat.

Ich wollte wissen, ob das ein Einzelfall war, und bin deshalb Apples Sicherheitshinweise zu jedem iPhone-Update dieses Jahres durchgegangen. Gezählt habe ich die Korrekturen, deren Danksagung OpenAI oder Anthropic nennt. In den ersten vier Monaten gab es keine einzige. Die ersten drei Korrekturen erschienen am 11. Mai, und mit dem Update im Oktober stieg die Summe auf 26. Die meisten dieser Danksagungen nennen direkt die KI-Tools der Labore, etwa „OpenAI Codex Security“ oder Forschende, die „with Claude“ gearbeitet haben, und Apple kennzeichnet keine der 26 Lücken als ausgenutzt.

Karte mit der Überschrift „KI findet Lücken in unseren Handys, und Apple schließt sie“ und einem Stufendiagramm mit dem Titel „Von null auf 26“: die laufende Summe der iPhone-Sicherheitskorrekturen im Jahr 2026, deren Danksagung OpenAI oder Anthropic nennt, nach Apples Sicherheitshinweisen. Bis zum 11. Mai bei null, dann in Stufen auf 3, 7, 8, 17 und 20 und mit dem Update vom 26. Oktober auf 26.

Noch ist das ein kleiner Anteil: 26 von 697 Schwachstellen, die dieses Jahr in iPhone-Updates behoben wurden. So wie ich es sehe, wird schwierige Arbeit, für die man früher seltene Spezialisten brauchte, jedoch zunehmend mit Tools erledigt, und die Spezialisten behalten die Kontrolle.

Wer eine App veröffentlicht, kann ganz einfach vorgehen. Lassen Sie vor jedem Release eine KI nach Lücken suchen, übertragen Sie einer Person die Verantwortung für das, was die KI findet, und behandeln Sie die Funde wie jeden anderen Bug-Report. Und installieren Sie Ihre eigenen Updates, sobald sie erscheinen.

Worauf es hinausläuft

Nichts davon macht die großen KI-Anbieter überflüssig, und auch Angreifer können KI einsetzen. Doch ich glaube, beide Entwicklungen geben allen, die Software bauen, mehr Kontrolle: darüber, wohin ihre Daten gehen, und darüber, die Lücken in ihrer eigenen Software als Erste zu finden.

Wie es weitergeht

Wenn Ihnen solche Notizen helfen, ist der Newsletter der beste Weg, die nächste nicht zu verpassen.