2026-10-09Rubrik Künstliche Intelligenz

Googelhupf Tageszeitung

Produkte & Modelle

GPT-6 bringt „Intelligent UI“: Antworten als interaktive Oberflächen in ChatGPT

GPT-6 bringt „Intelligent UI“: Antworten als interaktive Oberflächen in ChatGPT

📅 2026-10-07 | 🔗 Quelle: THE DECODER

OpenAI hat am 7. Oktober 2026 GPT-6 zusammen mit der Funktion „Intelligent UI“ für alle ChatGPT-Nutzer vorgestellt. Antworten können jetzt als interaktive Oberflächen mit Grafiken, Buttons, Diagrammen und Formularen erscheinen, wobei sich das Format laut OpenAI automatisch an die Frage anpasst. Vergleiche werden etwa nebeneinander dargestellt, Erklärungen als interaktive Diagramme. Nutzer können im Chat außerdem kleine Werkzeuge erstellen lassen, etwa einen Sparrechner oder ein Spiel. GPT-6 kann laut OpenAI bereits antworten, während es noch arbeitet, wodurch sich die Wartezeit um 44 Prozent verkürzt. In internen Tests erzielte das Modell bei schwierigen Websuchen höhere Trefferquoten als der Vorgänger GPT-5.6. Zahlende Kunden erhalten GPT-6 Sol, kostenlose Nutzer GPT-6 Luna. Der weltweite Rollout beginnt für Plus-, Pro-, Business- und Enterprise-Nutzer, Free- und Go-Nutzer folgen einen Tag später.

Claude Haiku 5.5: Anthropic senkt API-Preise um bis zu 90 Prozent

Claude Haiku 5.5: Anthropic senkt API-Preise um bis zu 90 Prozent

📅 2026-10-08 | 🔗 Quelle: heise online

Anthropic hat Claude Haiku 5.5 veröffentlicht, die kleinste und günstigste Modellreihe des Unternehmens. Das Modell ist für wiederkehrende, zeitkritische Aufgaben gedacht wie Zusammenfassungen, Datenbankabfragen oder Kundensupport. Laut Anthropic ist es bei Standardgeschwindigkeit das bislang schnellste Modell des Unternehmens. Das Kontextfenster wächst gegenüber Haiku 4.5 von 200.000 auf eine Million Tokens, die maximale Ausgabe von 64.000 auf 128.000 Tokens. Im Intelligence Index von Artificial Analysis erreicht Haiku 5.5 bei maximalem Denkaufwand 43 Punkte, 26 mehr als Haiku 4.5, liegt aber deutlich hinter Sonnet 5.5 mit 56 Punkten. Im Teilbenchmark OSWorld-2.1 steigt der Anteil erfüllter Teilziele laut Anthropic von 15,7 auf 72,4 Prozent. Die API-Preise sinken um bis zu 90 Prozent: Bei Prompts bis 100.000 Tokens kosten Eingabe 0,10 und Ausgabe 0,50 US-Dollar pro Million Tokens, bei längeren Prompts 0,50 beziehungsweise 2,50 Dollar. Relativiert wird der Preisvorteil durch hohen Tokenverbrauch bei maximalem Denkaufwand und einen neuen Tokenizer, der denselben Text in rund 30 Prozent mehr Tokens zerlegt. Verfügbar ist das Modell über die Claude-Plattform sowie über AWS, Google Cloud und Microsoft Azure. Haiku 5.5 ist die erste Haiku-Klasse mit einstellbarer Denkstufe, der Effort-Parameter steht standardmäßig auf mittel. Nicht standardmäßige Werte für temperature, top_p oder top_k führen zu einem Fehler 400. Anthropic hatte das Modell nach Angaben von MarkTechPost bereits am 7. Oktober veröffentlicht.

Anthropic stellt Claude Dashboards und Claude Motion als Beta vor

Anthropic stellt Claude Dashboards und Claude Motion als Beta vor

📅 2026-10-08 | 🔗 Quelle: THE DECODER

Anthropic hat am 8. Oktober 2026 zwei neue Beta-Funktionen für Claude vorgestellt. Claude Dashboards verbindet sich mit Datenquellen wie BigQuery, Databricks, Snowflake oder Salesforce und erstellt daraus per Texteingabe Live-Dashboards, die sich automatisch aktualisieren. Laut Anthropic zeigt jede Zahl die dahinterliegende Abfrage. Die Dashboards lassen sich an Tools wie Amplitude, Grafana oder Hex weiterleiten. Claude Motion erstellt aus Text, Diagrammen und Bildern animierte Erklärvideos, deren Animationen sich als Code bearbeiten und als MP4 exportieren lassen. Dashboards stehen zahlenden Nutzern offen, Motion ist für Team- und Enterprise-Pläne verfügbar. Gleichzeitig verlassen Docs, Slides und Design die Beta-Phase und sind nun auf allen Pläne nutzbar, auch kostenlos. Laut Anthropic wurden damit bereits mehr als 45 Millionen Dokumente erstellt. Das bereits vorgestellte Claude Design soll bis zum 14. Dezember in die Haupt-App integriert werden.

Google bringt agentische KI in Gemini, zunächst für Unternehmen

Google bringt agentische KI in Gemini, zunächst für Unternehmen

📅 2026-10-08 | 🔗 Quelle: techcrunch.com

Google hat auf einer Google-Cloud-Veranstaltung einen einheitlichen Agenten für Gemini vorgestellt, der nicht nur Fragen beantwortet, sondern Aufgaben für die Nutzer erledigt. Zunächst richtet sich der Agent an Unternehmen; Verbraucher sollen später folgen. Laut Google-Cloud-Chef Thomas Kurian lässt er sich mit Zielen statt nur Anweisungen füttern, plant die Arbeit selbst, nutzt eigene Skills und Werkzeuge und verbindet sich mit internen Systemen wie Google Workspace, Microsoft 365, Slack, Jira, Git, BigQuery oder Snowflake sowie mit MCP-Servern. Standardmäßig wählt er das passende Modell, Nutzer können aber auch selbst eines wählen, zunächst auch Claude-Modelle von Anthropic. Der Agent bekommt ein eigenes Workspace-Konto mit eigener E-Mail-Adresse und schreibt bei jeder Aktion ein Audit-Protokoll, das ihm und nicht einer Person zugeordnet ist. Zu den frühen Testern gehören laut Bericht On, Shopify und PayPal. Pichai nannte über eine Milliarde monatlich aktive Gemini-Nutzer und sagte, fast 90 Prozent der Fortune-100-Unternehmen nutzten Gemini Enterprise.

Google veröffentlicht EmbeddingGemma 2 für multimodale Suche auf Endgeräten

Google veröffentlicht EmbeddingGemma 2 für multimodale Suche auf Endgeräten

📅 2026-10-07 | 🔗 Quelle: heise online

Google hat am 7. Oktober 2026 das Embedding-Modell EmbeddingGemma 2 veröffentlicht. Es bildet Text, Code, Bilder, Audio und Video in einem gemeinsamen Vektorraum ab, sodass sich etwa Videoaufnahmen mit einer gesprochenen Anfrage durchsuchen lassen. Das Modell basiert auf der Gemma-4-Architektur und umfasst insgesamt 740 Millionen Parameter: 270 Millionen für Text und Code, 170 Millionen für den Bild-Encoder und 300 Millionen für den Audio-Encoder. Anders als der nur auf Text ausgelegte Vorgänger ist es nach Googles Angaben für die multimodale Suche direkt auf Endgeräten gedacht. Das Kontextfenster umfasst 8192 Token, sodass bis zu 5,5 Minuten Audio, 29 Bilder oder 58 Videoframes in eine Eingabe passen. Im Benchmark MTEB Code steigt der Wert laut Google von 68,76 auf 78,68 Punkte gegenüber dem Vorgänger; die Zahlen stammen von Google selbst. Die Gewichte sind über Hugging Face und Kaggle verfügbar, für die Einbindung nennt Google unter anderem LiteRT, MediaPipe, Transformers und llama.cpp.

JetBrains veröffentlicht Mellum2.1: offenes 12B-MoE-Modell für Coding-Agenten

📅 2026-10-08 | 🔗 Quelle: marktechpost.com

JetBrains hat Mellum2.1 veröffentlicht, ein offenes Modell für Coding-Agenten und schnelle Subagenten. Es ist ein Reasoning-Modell mit 12 Milliarden Parametern in Mixture-of-Experts-Bauweise, das pro Token 2,5 Milliarden Parameter aktiviert, und steht unter Apache 2.0 auf Hugging Face bereit. Die Architektur bleibt gegenüber Mellum2 unverändert; die Verbesserung kommt fast vollständig aus Reinforcement Learning in echten Software-Umgebungen, in denen das Modell Repositories erkundet, Dateien bearbeitet und die eigenen Änderungen prüft. Laut JetBrains stieg der Wert bei SWE-bench Verified von 2,0 auf 47,0 und bei SWE-bench Pro von 0,0 auf 28,0. Bei LiveCodeBench v6 (82,0), HumanEval+ (91,5), MBPP+ (79,4) und BFCL v4 (62,3) liegt Mellum2.1 in der Vergleichsgruppe vorn, während Qwen3.5-9B bei SWE-bench Verified, SWE-bench Pro, AIME 25/26 und GPQA Diamond führt. Alle Werte hat JetBrains selbst gemessen; für Qwen3.5-9B weichen sie von den Angaben des Herstellers ab. Laut JetBrains liefert das Modell auf einer H200 unter hoher Last fast doppelt so viele Token wie Qwen3.5-9B. GGUF-Builds sind in Arbeit.

Unternehmen & Forschung

Ecosia trennt sich von Mistral AI und setzt auf Open-Weight-Modelle aus China

Ecosia trennt sich von Mistral AI und setzt auf Open-Weight-Modelle aus China

📅 2026-10-08 | 🔗 Quelle: heise online

Die Berliner Suchmaschine Ecosia trennt sich von ihrem KI-Partner Mistral AI und setzt künftig stärker auf Open-Source- und Open-Weight-Modelle, darunter auch Systeme chinesischer Entwickler. Das berichtete Politico unter Berufung auf Gründer und CEO Christian Kroll. Als Gründe nennt Kroll anhaltende technische Probleme: Mistral habe den Anschluss an die Konkurrenz um etwa ein Jahr verloren, und überlastete Server hätten immer wieder zu Ausfällen geführt. Zudem verweist er auf ökologische Bedenken wegen des hohen Atomstromanteils im französischen Strommix sowie auf Zweifel an der europäischen Souveränität, da Mistral Geld von Investoren wie Nvidia und Samsung eingesammelt hat. Ecosia arbeitet nun mit der Plattform Melious zusammen, die unter anderem die chinesischen Modelle Qwen, GLM und Kimi hostet. Laut Kroll halbierten sich dadurch etwa die Betriebskosten, während Qualität und Leistung stiegen. Mistral-Mitgründer Guillaume Lample lud Ecosia ein, das neue Modell Large 4 zu testen. Der Wechsel sorgt auch für eine Debatte über Zensur: Rasmus Rothe vom Bundesverband Künstliche Intelligenz warnt, Nachtraining verändere meist nur die Oberfläche eines Modells.

Google sichert sich 3,6 Gigawatt Strom von Constellation für KI-Rechenzentren

Google sichert sich 3,6 Gigawatt Strom von Constellation für KI-Rechenzentren

📅 2026-10-07 | 🔗 Quelle: heise online

Google hat mit dem US-Energieversorger Constellation Energy einen langfristigen Stromliefervertrag über 3,59 Gigawatt geschlossen, der die KI-Rechenzentren des Konzerns versorgen soll. Davon entstehen 890 Megawatt als neue Kapazität durch Leistungssteigerungen an elf Reaktorblöcken in Illinois, Pennsylvania und New Jersey. Die übrigen 2,7 Gigawatt stammen aus bestehenden Kraftwerken im PJM-Netz. Der Atomstrom soll über 20 Jahre fließen, die Lieferung aus der bestehenden Kraftwerksflotte über 15 Jahre. Constellation will dafür mehr als 4,3 Milliarden US-Dollar in Ausbau und Modernisierung mehrerer Atomkraftwerke investieren; laut Unternehmen sichert das rund 4.400 bestehende Arbeitsplätze und schafft in der Bauphase etwa 7.200 neue. Die erste Leistungssteigerung soll voraussichtlich bis 2028 ans Netz gehen. Zusätzlich vereinbarten die Unternehmen eine fünfjährige Technologiepartnerschaft, in deren Rahmen ein Konzept für KI im Energiesektor entwickelt werden soll, unter Nutzung von Google Cloud und Gemini Enterprise. Constellation ist der größte Betreiber von Atomkraftwerken in den USA.

OpenAI soll seinen Umsatz um rund 20 Milliarden Dollar niedriger angegeben haben als zuvor berichtet

OpenAI soll seinen Umsatz um rund 20 Milliarden Dollar niedriger angegeben haben als zuvor berichtet

📅 2026-10-08 | 🔗 Quelle: techcrunch.com

Vor gut einer Woche hatte es geheißen, der annualisierte Umsatz von OpenAI nähere sich 70 Milliarden Dollar. Laut Financial Times hat das Unternehmen Investoren nun mitgeteilt, der Wert liege nahe 50 Milliarden Dollar. Die 70-Milliarden-Zahl stammte aus Informationen für Investoren und war ein Versuch, OpenAI direkt mit den Umsätzen von Anthropic zu vergleichen. Die beiden Unternehmen rechnen unterschiedlich: Anthropic zählt Verkäufe über Cloud-Partner mit, OpenAI nicht. OpenAI hat auf eine Anfrage von TechCrunch zunächst nicht reagiert. Das Unternehmen hatte allein in einer Finanzierungsrunde im März 122 Milliarden Dollar eingesammelt. Den geleakten Finanzdaten für 2025 zufolge machte OpenAI rund 13 Milliarden Dollar Umsatz, gab aber deutlich mehr aus. Der zuvor für dieses Jahr erwartete Börsengang wurde auf Anfang 2027 verschoben.

USA Today Co. verklagt OpenAI auf mehr als 250 Millionen Dollar Schadenersatz

USA Today Co. verklagt OpenAI auf mehr als 250 Millionen Dollar Schadenersatz

📅 2026-10-08 | 🔗 Quelle: theverge.com

USA Today Co. und mehrere ihm gehörende Lokalzeitungen haben OpenAI verklagt. Der Vorwurf: Das Unternehmen habe Hunderttausende Artikel kopiert, um seine KI-Modelle zu trainieren. In der Klageschrift, eingereicht am Donnerstag, werden Schadenersatz von mehr als 250 Millionen Dollar gefordert und reale, andauernde Schäden für die Angebote geltend gemacht. Zu den mitklagenden Titeln gehören The Tennessean, IndyStar, The Columbus Dispatch und The Oklahoman. Die Klage reiht sich ein in mehrere Urheberrechtsverfahren gegen OpenAI, unter anderem von der New York Times, The Intercept, Ziff Davis, CBC/Radio-Canada, Encyclopaedia Britannica, Merriam-Webster, The Seattle Times und einer Koalition von fast 400 Lokalzeitungen. OpenAI hat auf eine Anfrage von The Verge zunächst nicht geantwortet.

OpenAI veröffentlicht 372 KI-erzeugte Mathe-Ergebnisse, Mathematiker rufen zum Boykott auf

OpenAI veröffentlicht 372 KI-erzeugte Mathe-Ergebnisse, Mathematiker rufen zum Boykott auf

📅 2026-10-08 | 🔗 Quelle: the-decoder.de

OpenAI hat 372 neue mathematische Ergebnisse veröffentlicht, die ein internes Frontier-Modell erzeugt hat, und stellt sie in einem GitHub-Repository bereit statt in Fachzeitschriften. Laut OpenAI soll jedes Ergebnis ein offenes Problem lösen oder substanziell vorankommen; darunter sind Verbesserungen wichtiger Computeralgorithmen und Fortschritte bei der Riemann-Hypothese. Fast jedes Ergebnis entstand durch einen einzelnen Prompt an einen einzelnen Agenten, im Schnitt entsprach der Rechenaufwand etwa drei Stunden ChatGPT-Pro-Thinking. Viele Beweise sind in Lean formalisiert, was die logische Korrektheit prüft, nicht aber Relevanz oder Originalität. Die Association for Human Mathematics (AHM) ruft Mathematikerinnen und Mathematiker nun dazu auf, die Zusammenarbeit mit OpenAI zu beenden. Viele der Arbeiten seien so dicht und ungewöhnlich geschrieben, dass selbst Fachleute sie nur mit KI-Hilfe entziffern könnten. Die AHM nennt die Veröffentlichung von mehr als 700 Dateien auf einmal eine Machtdemonstration: Mathematiker hätten diese Arbeit nicht angefordert. Vorausgegangen war die Behauptung von OpenAI, ein internes Modell habe mehr als 100 offene Mathematikprobleme in einem Monat gelöst, darunter einen Zugang zum Navier-Stokes-Millenniumproblem. Als Reaktion richtete OpenAI am Institute for Advanced Study die Beratungsgruppe AGMAI ein, die beim internen Forschungstempo ausdrücklich kein Mitspracherecht hat. Fields-Medaillist Terence Tao, Vorsitzender der Gruppe, verbreitet die AHM-Stellungnahme als Gastbeitrag auf seinem Blog. Zuvor hatten 25 Fields-Medaillen-Träger in einem offenen Brief vor einer schwerwiegenden Fehlausrichtung zwischen KI-Industrie und Mathematik gewarnt.

Biohub will mit 1,8 Milliarden Dollar KI für virtuelle Biologie finanzieren

Biohub will mit 1,8 Milliarden Dollar KI für virtuelle Biologie finanzieren

📅 2026-10-07 | 🔗 Quelle: the-decoder.de

Insgesamt 1,8 Milliarden Dollar sollen in Daten, Messtechnik und Rechenkapazität fließen, damit KI-Modelle das Verhalten von Zellen vorhersagen lernen; das könnte die Medikamentenentwicklung beschleunigen, berichtet Reuters. Koordiniert wird das Vorhaben von Biohub, der gemeinnützigen Forschungsorganisation von Mark Zuckerberg und Priscilla Chan, die im April bereits 500 Millionen Dollar für die auf fünf Jahre angelegte Virtual Biology Initiative zugesagt hatte. Meta, Google Deepmind und Isomorphic Labs steuern zusammen 300 Millionen Dollar bei, das US-Energieministerium investiert über fünf Jahre mehr als 500 Millionen Dollar in Labormessungen und Rechenleistung. Die National Institutes of Health koordinieren Datensätze, die mit über 500 Millionen Dollar früherer staatlicher Förderung aufgebaut wurden; Biohub soll sie für KI-Training standardisieren. Kommerzielle Geldgeber erhalten laut Biohub-Forschungsleiter Alex Rives ein Jahr exklusiven Zugang zu den von ihnen finanzierten Daten, staatlich finanzierte Arbeiten sind ohne solche Einschränkung zugänglich. Ein erster Datensatz soll in etwa einem Jahr fertig sein. Anthropic hat ein eigenes Biologielabor aufgebaut, die OpenAI Foundation fördert biologische und medizinische Datensätze mit mehr als 125 Millionen Dollar.

Politik & Regulierung

Arizona: KI-Video des Opfers machte Urteil im Totschlagsverfahren angreifbar

Arizona: KI-Video des Opfers machte Urteil im Totschlagsverfahren angreifbar

📅 2026-10-07 | 🔗 Quelle: heise online

Ein Berufungsgericht in Arizona hat entschieden, dass das Strafmaß in einem Totschlagsverfahren neu festgelegt werden muss, weil ein KI-generiertes Video des Opfers den Richter unzulässig beeinflusst habe. Das Video zeigte ein KI-Abbild des 2021 in Chandler erschossenen Christopher Pelkey, das vor dem Urteil Worte an die Zuschauenden richtete, darunter den Angeklagten und den Richter. Die Schwester des Opfers hatte es innerhalb weniger Tage von ihrem Ehemann und einem Geschäftspartner erstellen lassen. Bei der Anhörung im Mai 2025 lobte Richter Todd Lang das Video ausdrücklich und sagte: „Ich habe diese KI geliebt“. Danach verurteilte er den Angeklagten zur Höchststrafe von zehneinhalb Jahren Haft. Das Berufungsgericht befand, der Angeklagte sei dadurch so benachteiligt worden, dass das Strafzumessungsverfahren grundlegend ungerecht gewesen sei. Der Schuldspruch bleibt bestehen. Sollte die Entscheidung Bestand haben, wird derselbe Richter erneut über das Strafmaß entscheiden, dann ohne das Video.

Anthropic verbietet anhaltend grausames Verhalten gegenüber Claude

Anthropic verbietet anhaltend grausames Verhalten gegenüber Claude

📅 2026-10-08 | 🔗 Quelle: theverge.com

Anthropic hat seine Nutzungsrichtlinien erstmals seit über einem Jahr überarbeitet, um neue Missbrauchsfälle zu erfassen, darunter Wahlbeeinflussung, Waffenentwicklung, Überwachung sowie Gesundheits- und Finanzanwendungen. Eine der wichtigsten Neuerungen verbietet „anhaltendes und unnötiges beleidigendes oder grausames Verhalten“ gegenüber Claude. Das Beenden von Gesprächen bleibt laut Anthropic der „primäre Durchsetzungsmechanismus“; zu weiteren Maßnahmen wie Nutzersperren äußerte sich das Unternehmen nicht. Die Regel gilt nach Angaben von Anthropic nur in extremen Fällen, in denen Nutzer wiederholt ohne erkennbaren Zweck grausam gegenüber den Modellen handeln; normale Frustration, Widerspruch, dunkle kreative Themen oder Modelltests fallen nicht darunter. Verstreute bestehende Einschränkungen hat Anthropic zu einem neuen Verbot täuschender kommerzieller oder politischer Kampagnen gebündelt, etwa durch Fake-Konten oder Verschleierung des Absenders. Neu ist auch das Verbot, Software und Komponenten für Waffen zu entwickeln, einschließlich der Bestückung von Drohnen und anderen autonomen Fahrzeugen. Überwachung ohne Zustimmung ist untersagt, ob in Echtzeit oder durch Analyse gesammelter Daten. Ausnahmen für bestimmte Regierungskunden sind möglich, wenn Anthropic die vertraglichen Schutzmaßnahmen für ausreichend hält; das Unternehmen hat zuvor mit dem US-Militär zusammengearbeitet. Wenn KI-Modelle mit Hardware verbunden sind, die autonome physische Handlungen ausführen und Verletzungen verursachen kann, muss ein qualifizierter Operator die Anlage beobachten und im Notfall stoppen können. Seit einem Update im August ist Claude laut TechCrunch darauf trainiert, Gespräche mit anhaltend schädlichen oder missbräuchlichen Nutzern zu beenden; die neue Richtlinie untersagt es Nutzern ausdrücklich, solche Gespräche fortzusetzen. Ein eigener Abschnitt mit dem Titel „Do Not Undermine Democratic Processes“ untersagt, Wähler zu täuschen oder Wahlen zu stören.

Anthropic öffnet Cyber-Programm für Sicherheitsforscher mit reduzierten Schutzfiltern

Anthropic öffnet Cyber-Programm für Sicherheitsforscher mit reduzierten Schutzfiltern

📅 2026-10-07 | 🔗 Quelle: the-decoder.de

Anthropic öffnet sein Cyber Verification Program für deutlich mehr Sicherheitsfachleute. Geprüfte Organisationen und einzelne Forschende erhalten Zugang zu den stärksten Claude-Modellen mit reduzierten Sicherheitsfiltern für Schwachstellensuche, Malware-Analyse, Incident Response und Penetrationstests. Die allgemein verfügbaren Modelle blockieren den Großteil dieser Arbeit, weil dieselben Fähigkeiten auch Angreifern nützen; einfache Aufgaben wie Code-Review oder das Patchen bekannter Lücken bleiben ohne Sonderzugang möglich. Der Zugang ist in drei Stufen gegliedert. „Defense Access“ steht Sicherheitsteams in Unternehmen, Behörden, Universitäten, Betreibern kritischer Infrastruktur, Open-Source-Entwicklern und einzelnen Forschenden offen. „Red Team Access“ erlaubt autorisierte Angriffssimulationen und ist nur Organisationen vorbehalten. „Specialized Access“ für Systeme wie Flugsteuerungen, Stromnetze oder Bankinfrastruktur prüft Anthropic gemeinsam mit der US-Regierung. Partner des Vorgängerprogramms Project Glasswing fanden laut Anthropic zwischen April und Juli 2026 mindestens 129.000 bestätigte Schwachstellen, davon über 33.000 hochgefährlich oder kritisch. Die Zahlen stammen aus Umfragen unter einem Teil der Partner; die tatsächliche Wirkung sei mindestens fünfmal höher. Mehrere Partner berichteten, die KI habe ihre Arbeit um Monate bis Jahre beschleunigt.

Studie: ChatGPT for Teens ist für Jugendliche ein inakzeptables Risiko

Studie: ChatGPT for Teens ist für Jugendliche ein inakzeptables Risiko

📅 2026-10-07 | 🔗 Quelle: the-decoder.de

Das Common Sense Media Youth AI Safety Institute stuft ChatGPT for Teens nach mehr als 4.000 Testeingaben als „inakzeptables Risiko“ für Minderjährige ein und fordert, Teenager vom Dienst auszuschließen, bis die Sicherheit unabhängig bestätigt ist. Auf mehr als einem Dutzend neu angelegter, mit Elternkonten verknüpfter Testkonten lösten explizite Gespräche über Suizid, Selbstverletzung oder Essstörungen keinen Elternalarm aus. Benachrichtigungen griffen erst nach wochenlanger Kontohistorie mit sensiblen Themen; bei mehr als jeder vierten nötigen Krisenweiterleitung fehlte der Verweis auf professionelle Hilfe. Trotz einer aktualisierten Under-18-Model-Spec sprach ChatGPT weiter freundschaftlich, wenn Jugendliche es wie eine Person behandelten. Konten, die als Erwachsene registriert waren, wechselten auch nach Tagen nicht in den Teen-Modus, obwohl die Tester 13 Jahre alt zu sein angaben. Im Lernmodus boten Chatbots Schülern teils fertige Lösungen an, statt sie schrittweise anzuleiten. OpenAI-Sprecher Eric Porterfield wies die Ergebnisse als praxisfern zurück; das Institut entgegnete, auch Konten mit ausreichender Aktivierungszeit hätten keine Benachrichtigungen geliefert. Am selben Tag veröffentlichte OpenAI einen Beitrag zu ChatGPT for Teens mit neuen Lernfunktionen und einem Jugendbeirat, ging auf die konkreten Vorwürfe der Studie aber nicht ein.

Tools & Anwendungen

Sicherheitslücke AgentCorruption: Ein Prompt reichte, um Amazons Bedrock AgentCore zu übernehmen

Sicherheitslücke AgentCorruption: Ein Prompt reichte, um Amazons Bedrock AgentCore zu übernehmen

📅 2026-10-08 | 🔗 Quelle: THE DECODER

Die Sicherheitsforscher von Zenity Labs haben unter dem Namen AgentCorruption eine Schwachstellenkette in Amazons Plattform Bedrock AgentCore offengelegt. Laut Zenity genügte Chatzugang zu einem einzigen öffentlich erreichbaren Agenten, um alle Agenten desselben AWS-Kontos in derselben Region zu übernehmen. Die Forscher brachten einen Testagenten per Prompt dazu, den internen Metadatendienst abzufragen und die Antwort, darunter temporäre AWS-Zugangsdaten, an einen externen Server zu senden. Mit diesen Zugangsdaten konnten sie laut Bericht private Gespräche mitlesen, Container-Images mit Quellcode herunterladen, Zugangsdaten aus dem Secrets Manager abrufen und das Langzeitgedächtnis von Agenten manipulieren. Ursache seien unzureichende Abschottung und eine Standardrolle gewesen, die jedem Agenten weitreichende Rechte für die gesamte Region gab. Zenity meldete die Funde am 25. Dezember 2025 an AWS. Amazon machte daraufhin IMDSv2 zum Standard für neue Deployments und änderte die Standardrolle im August, doch laut Zenity bestehen die überzogenen Rechte teilweise weiter, weshalb Unternehmen eigene, enger gefasste Rollen anlegen sollten.

Microsoft stellt agentisches Windows und neue Hardware vor

Microsoft stellt agentisches Windows und neue Hardware vor

📅 2026-10-07 | 🔗 Quelle: heise online

Microsoft hat am Abend des 7. Oktober 2026 die agentische Erweiterung von Windows 11 sowie neue Hardware vorgestellt. Die Microsoft Execution Containers, die Agenten eine Sandbox bieten, sind allgemein verfügbar und haben die Insider-Testphase verlassen. Agenten sollen als eigene Benutzer mit eigenen Zugriffsbeschränkungen laufen, die Integration von Microsoft Entra soll in Kürze folgen, die zentrale Verwaltung übernimmt Agent 365. Unter dem Begriff hybride Intelligenz soll lokale KI mit Cloud-KI zusammenarbeiten. Passende Geräte kommen unter anderem von Asus, Dell, HP, Lenovo und MSI. Verkleinerte Modelle wie MAI Code 1.1 Flash sollen lokal auf Nvidia-RTX-Spark-Hardware laufen, und GitHub Copilot soll bis Ende Oktober auf lokale Modelle zugreifen können. Copilot Home, Copilot Code und der Autopilot sollen Copilot+-PCs in den kommenden Monaten erhalten. Erste der vorgestellten Laptops, Rechner und Server sind bereits vorbestellbar.

Anthropic startet kostenlose KI-Sicherheitsprüfung für Open-Source-Projekte

Anthropic startet kostenlose KI-Sicherheitsprüfung für Open-Source-Projekte

📅 2026-10-08 | 🔗 Quelle: theverge.com

Anthropic startet mit OSS Scanner einen Dienst, der Open-Source-Projekte auf Sicherheitslücken untersucht. Teilnehmende Projekte erhalten nach Angaben des Unternehmens regelmäßige, gründliche Scans durch die stärksten Modelle, darunter Claude Mythos, kostenlos. Die Berichte entstehen vollständig maschinell, ohne menschliche Prüfung oder Sortierung; Anthropic räumt ein, dass sie fehlerhaft oder ungültig sein können. Der Vorteil sind schnellere und häufigere Scans, sodass Projekte früher auf mögliche Probleme aufmerksam werden. KI-Werkzeuge haben in den letzten Monaten bereits größere Sicherheitslücken in Open-Source-Software aufgespürt, etwa den Fehler „Copy Fail“, der im Mai nahezu jede Linux-Distribution betraf. Gleichzeitig kämpfen manche Open-Source-Projekte mit dem Ansturm KI-generierter Fehlermeldungen; genannt werden Linus Torvalds und Google.

Google öffnet Prüfseite für SynthID allen: KI-Bilder, Videos und Audio lassen sich checken

Google öffnet Prüfseite für SynthID allen: KI-Bilder, Videos und Audio lassen sich checken

📅 2026-10-07 | 🔗 Quelle: techcrunch.com

Google hat am Dienstag eine Website gestartet, auf der jeder prüfen kann, ob ein Bild, Video oder eine Audiodatei mit KI erzeugt wurde. Bisher stand das Werkzeug ausgewählten Journalisten, Medienprofis und Forschern zum Test zur Verfügung, die es auf der Google I/O im Vorjahr erhalten hatten. Die Seite akzeptiert gängige Bild-, Video- und Audioformate. Die Prüfung beruht auf SynthID, einem Wasserzeichen, das Google 2023 eingeführt hat; Modelle wie Nano Banana, Veo und Lyria sowie Gemini und Flow markieren damit ihre Ausgaben. Laut TechCrunch unterstützen auch OpenAI, Nvidia und Kakao SynthID, Apple soll bald folgen. Die Prüfung ist zusätzlich in die Gemini-App und in Google Chrome eingebaut; Google zufolge gibt es täglich eine Million Prüfanfragen. Microsoft und Meta setzen eigene Verfahren zur Kennzeichnung ein, die laut Artikel nicht unfehlbar sind und oft Inhalte nicht erkennen, die von den eigenen Modellen ihrer Hersteller stammen.