Y-Combinator-Gründer Paul Graham ignoriert E-Mails, die erkennbar mit KI verfasst wurden: Sie fühlten sich an, „als werde man belogen“. Das kommt ausgerechnet von einem der frühesten OpenAI-Investoren. Erste Studien zeigen, dass seine Reaktion wahrscheinlich kein Einzelfall ist.
Der Artikel Investor hinter Airbnb und OpenAI warnt Startups: Wer KI-Mails schickt, wird nicht ernst genommen erschien zuerst auf The Decoder.
GPT-Images-2.0
Kurzfassung
▾
Quellen
▾
Offengelegte E-Mails aus dem Prozess um Elon Musk zeigen, dass Microsoft im Jahr 2018 stark an OpenAI zweifelte.
Das interne KI-Team sah keinen Mehrwert in der Kooperation und hielt die eigenen Entwicklungen für überlegen.
Letztendlich verhinderte nur die Angst vor einem Wechsel zu Amazon den endgültigen Abbruch der Partnerschaft.
Golem.de – Gerichtsunterlagen: E-Mails zeigen Microsofts Skepsis gegenüber OpenAI
Offengelegte Gerichtsunterlagen aus dem Rechtsstreit zwischen Elon Musk und OpenAI enthüllen unerwartete Details zur frühen Partnerschaft mit Microsoft. Interne E-Mails dokumentieren präzise, wie stark Führungskräfte um CEO Satya Nadella im Jahr 2018 an den Forschungszielen des heutigen Branchenführers zweifelten. Kostspielige Rechenleistung Sam Altman bat den Tech-Konzern im Spätsommer 2017 um eine drastische Erhöhung der Cloud-Ressourcen. Anstelle der ursprünglich vereinbarten 60 Millionen US-Dollar verlangte das Labor plötzlich Azure-Dienste im Wert von 300 Millionen US-Dollar. Altman rechtfertigte diesen enormen Bedarf mit dem Streben nach AGI. Er beschrieb die eigenen Arbeiten als das bisher ehrgeizigste Unterfangen in der Geschichte der KI-Forschung. Anzeige Eigene KI-Modelle galten als überlegen Aufgrund dieser hohen Forderung konsultierte Satya Nadella umgehend seine internen Fachabteilungen. Microsofts eigenes KI-Team analysierte die Lage und sah den Dokumenten zufolge »keinen Mehrwert durch eine Zusammenarbeit«. Zusätzlich stuften die Experten die internen Entwicklungen als deutlich fortschrittlicher ein. Parallel dazu stieß das damalige Auftreten von OpenAI bei der PR-Abteilung auf Ablehnung. Das Narrativ von Maschinen, die menschliche Spieler in Videospielen besiegen, passte schlicht nicht zur Unternehmenskommunikation. Nadella selbst hinterfragte den Fokus der Forschung. Ein direkter Wettbewerbsvorteil durch die externe Technologie ließ sich für ihn zu diesem Zeitpunkt nicht erkennen. Die Konkurrenz im Nacken Lediglich die Furcht vor einem Wechsel des Labors zu einem anderen Anbieter verhinderte einen endgültigen Bruch. CTO Kevin Scott skizzierte das Risiko eines PR-Desasters, sollte OpenAI bei einem Finanzierungsstopp verärgert zu Amazon abwandern. Trotz dieser deutlichen Warnung fror der Konzern die finanzielle Unterstützung aufgrund der hohen Kosten vorerst ein. Erst im Jahr 2019 nahmen beide Parteien die Kooperation wieder auf. Die Anwälte von Elon Musk nutzen diese E-Mails nun, um die unstete Dynamik der Partnerschaft vor Gericht faktisch zu belegen.
KI-Agenten sollen eigenständig im Web navigieren, E-Mails bearbeiten und Transaktionen durchführen. Doch die Informationsumgebung selbst wird zur Angriffsfläche: Forscher von Google Deepmind katalogisieren erstmals systematisch, wie Webseiten, Dokumente und APIs autonome Agenten manipulieren, täuschen und kapern können. Sie haben sechs Hauptkategorien identifiziert.
Der Artikel Fallen für KI-Agenten: Deepmind-Forscher zeigen sechs Angriffsflächen auf erschien zuerst auf The Decoder.
Nano Banana
Kurzfassung
▾
Quellen
▾
Ein Softwarefehler im Microsoft 365 Copilot führte dazu, dass die KI vertrauliche E-Mails trotz aktiver Schutzrichtlinien verarbeitete.
Der KI-Assistent ignorierte sogenannte Data-Loss-Prevention-Vorgaben und Sensibilitäts-Labels in Outlook vollständig.
Ein unautorisierter Zugriff auf fremde Postfächer fand jedoch nicht statt, da Nutzer ohnehin Lesezugriff auf die verarbeiteten Mails hatten.
Microsoft hat das Problem bestätigt und den Fehler durch ein automatisches Update auf seinen Servern inzwischen behoben.
Microsoft says bug causes Copilot to summarize confidential emails
Microsoft says Office bug exposed customers‘ confidential emails to Copilot AI
Ein Softwarefehler in Microsoft 365 führte in den vergangenen Wochen dazu, dass der KI-Assistent Copilot vertrauliche Outlook-E-Mails auslas und in seinen Zusammenfassungen wiedergab. Die Künstliche Intelligenz ignorierte dabei aktiv gesetzte Sicherheitsrichtlinien und Schutzetiketten der Administratoren. Schutzmechanismen ausgehebelt Der Fehler betraf das Zusammenspiel zwischen dem Copilot Chat und den sogenannten Data-Loss-Prevention-Richtlinien (DLP) von Microsoft. Diese DLP-Vorgaben scannen Dokumente sowie Nachrichten nach sensiblen Mustern wie Kreditkartennummern oder internen Projektcodes und blockieren definierte Aktionen. Im konkreten Fall durchbrach die KI-Assistenz diese administrativen Barrieren jedoch vollständig. E-Mails, die von Absendern mit spezifischen Sensibilitäts-Labels markiert wurden, flossen ungehindert in die generierten Chat-Antworten ein. Nutzer erhielten dadurch Zusammenfassungen von Nachrichten, deren Verarbeitung durch algorithmische Systeme eigentlich auf Netzwerkebene untersagt war. Anzeige Patch auf den Servern verteilt Microsoft bestätigte die Schwachstelle und implementierte mittlerweile ein serverseitiges Update, das die fehlerhafte Rechteprüfung korrigiert. Der Redmonder Konzern verzichtete auf genaue Angaben darüber, wie viele Unternehmenskunden von der fehlerhaften Datenverarbeitung innerhalb ihrer IT-Umgebungen betroffen waren. Technisch betrachtet beschränkte sich das Auslesen der geschützten Daten auf den jeweiligen Nutzerkontext. Der Copilot gab die Informationen aus den blockierten E-Mails nur an jene Anwender aus, die ohnehin einen regulären Lesezugriff auf das jeweilige Postfach besaßen. Eine Ausweitung der Zugriffsrechte, durch die Nutzer auf fremde Postfächer hätten zugreifen können, fand laut den vorliegenden Fehlerberichten nicht statt. Dennoch stellt die Umgehung der DLP-Richtlinien einen harten Verstoß gegen gängige Compliance-Vorgaben dar. Wachsende Skepsis bei Unternehmens-KI Fehler bei der Zugriffssteuerung verstärken die aktuelle Skepsis gegenüber der tiefen Integration von Sprachmodellen in Unternehmensnetzwerke. Solche Compliance-Risiken rufen zunehmend institutionelle Gegenmaßnahmen auf den Plan. Erst vor wenigen Tagen blockierte das Europäische Parlament die Nutzung von generativen KI-Tools auf den Dienstgeräten seiner Abgeordneten und verwies dabei explizit auf unkontrollierbare Sicherheitsrisiken im Umgang mit sensiblen Daten. Microsoft hat das erforderliche Update für den Copiloten nun automatisch auf seinen Servern eingespielt, sodass Systemadministratoren keine weiteren manuellen Schritte auf den Endgeräten der Mitarbeiter durchführen müssen.
Larry Summers ist nach der Veröffentlichung seiner E-Mails mit Jeffrey Epstein aus dem Aufsichtsrat von OpenAI zurückgetreten.
Der Artikel Larry Summers verlässt OpenAI-Aufsichtsrat nach Enthüllung seiner E-Mails mit Jeffrey Epstein erschien zuerst auf The Decoder.
Google lässt Gemini jetzt persönliche E-Mails im eigenen Stil schreiben. Was praktisch klingt, könnte Beziehungen verändern – und die Echtheit unserer Kommunikation untergraben.
Der Artikel Gmail Smart Replies: Eine KI-Funktion, die mir echte Sorgen macht erschien zuerst auf THE-DECODER.de.