TOKIO, 26. September 2023 – (JCN Newswire) – Fujitsu gab heute die Einführung von zwei neuen KI-Vertrauenstechnologien bekannt, um die Zuverlässigkeit der Antworten von Konversations-KI-Modellen zu verbessern. Zu den neu entwickelten Technologien gehören eine Technik zur Erkennung von Halluzinationen in Konversations-KI-Modellen – ein Phänomen, bei dem generative KI falsche oder nicht verwandte Ergebnisse erzeugt – und eine Technik, die gemeinsam in seinem kleinen Forschungslabor entwickelt wurde (1) an der Ben-Gurion-Universität, um Phishing-Site-URLs zu erkennen, die durch Poisoning-Angriffe, die falsche Informationen einschleusen, in die Antworten der KI implantiert werden.
Mit den neuen Technologien möchte Fujitsu Unternehmens- und Privatanwendern ein Tool zur Bewertung der Zuverlässigkeit von Antworten von Konversations-KI zur Verfügung stellen und so letztendlich zu einer sichereren Nutzung von KI in einer Reihe von Anwendungsfällen beitragen, auch für Unternehmen, die die Technologie implementieren möchten tatsächliche Operationen.
Professor Yuval Elovici von der Ben-Gurion-Universität kommentiert: „Generative KI ist ein entscheidender Bereich, und in diesem Bereich erweist sich die von Fujitsu entwickelte Halluzinationserkennungstechnologie als entscheidend für die Einrichtung vertrauenswürdiger Konversations-KI-Systeme.“ Forscher der Ben-Gurion-Universität (BGU) und Fujitsu haben eine innovative Technik entwickelt, um die Sicherheit der KI-basierten URL-Filterung gegen gegnerische Bedrohungen zu erhöhen. Unser Durchbruch konzentriert sich auf tabellarische Daten, was zu einem widerstandsfähigeren Abwehrmechanismus gegen gegnerische Angriffe im Bereich der KI-gesteuerten URL-Filterung führt. Fujitsu und die Ben-Gurion-Universität werden in Zukunft zusammenarbeiten, um neuartige sicherheitsorientierte Fortschritte im Bereich der generativen KI zu erzielen.“
Fujitsu wird diese neuen Technologien in seine Konversations-KI-Kern-Engine integrieren, die über die „Fujitsu Kozuchi (Codename) – Fujitsu AI Platform“ bereitgestellt wird und Benutzern Zugriff auf eine breite Palette leistungsstarker KI- und ML-Technologien bietet. Die Technologie zur Erkennung von Halluzinationen in Konversations-KI wird Benutzern in Japan ab dem 28. September 2023 zur Verfügung stehen, und die Technologie zur Erkennung von Phishing-Site-URLs in Antworten von Konversations-KI ab Oktober 2023. Die neuen Technologien werden sowohl für Unternehmensbenutzer als auch für Unternehmensbenutzer verfügbar sein Demo-Umgebung über Kozuchi und für einzelne Benutzer über eine spezielle Portalseite (2). Fujitsu plant für die Zukunft die Einführung beider Technologien auf dem Weltmarkt.
Beim Einsatz von Konversations-KI im Geschäftsbetrieb nutzen Unternehmen die Technologie häufig, um Informationen zu Fragen aus vorab registrierten Geschäftsdaten zu extrahieren und die Daten als Referenzinformationen hinzuzufügen, wenn sie Fragen an eine externe Konversations-KI stellen. Während diese Methode genaue Antworten liefert und Halluzinationen reduziert, stellt die vollständige Prävention von Halluzinationen ein anhaltendes Problem dar, da die Konversations-KI in einigen Fällen nicht in der Lage ist, Informationen zu Fragen korrekt zu extrahieren und dementsprechend unzusammenhängende, falsche Antworten erzeugt. Obwohl es Methoden gibt, den Grad abzuschätzen, in dem die Antwort einer KI eine Halluzination sein könnte (Halluzinations-Score), bleibt die genaue Schätzung dieses Scores eine schwierige Aufgabe, da Konversations-KI verschiedene Phrasen verwendet, um denselben Sachverhalt auszudrücken.
Basierend auf der Beobachtung, dass Konversations-KI häufig falsche Informationen für Eigennamen und Zahlen generiert und der Inhalt der Antworten bei wiederholten Fragen tendenziell unterschiedlich ist, hat Fujitsu eine Technologie entwickelt, um Satzteile zu identifizieren und sich darauf zu konzentrieren, bei denen Halluzinationen wahrscheinlich auftreten.
Um einen hochpräzisen Halluzinations-Score zu berechnen, zerlegt die neue Technologie zunächst die Antwort der KI in drei Teile (Subjekt, Prädikat, Objekt usw.) und identifiziert dann automatisch benannte Entitäten in der Antwort. Im nächsten Schritt lässt die Technologie diese benannten Entitäten leer und fordert die externe KI wiederholt auf, diese spezifischen Ausdrücke genauer zu definieren. (Figur 2)
Fujitsu hat diese Technologie anhand offener Daten, einschließlich des WikiBio GPT-3 Hallucination Dataset (3) und stellte fest, dass es die Genauigkeit der Erkennung (AUC-ROC) verbessern könnte (4) um etwa 22 % im Vergleich zu anderen hochmodernen Methoden zur Erkennung von KI-Halluzinationen, wie etwa SelfCheckGPT (5).
Während die Konversations-KI Antworten auf der Grundlage ihrer Trainingsdaten erstellt, können feindliche Einheiten die KI dazu verleiten, Antworten zu erstellen, die manipulierte Informationen wie Phishing-URLs enthalten, die zu gefälschten Websites führen, indem sie bösartige Informationen in die KI-Trainingsdaten implantieren.
Um dieses Problem anzugehen, hat Fujitsu eine Technologie entwickelt, um manipulierte URLs in den Antworten der Conversational AI zu erkennen. Sobald die Technologie eine Phishing-URL identifiziert, gibt sie eine Warnmeldung an Benutzer aus.
Die neue Technologie von Fujitsu erkennt nicht nur Phishing-URLs, sondern erhöht auch die Widerstandsfähigkeit der KI gegen bestehende Angriffe, indem sie KI-Modelle zu einer absichtlichen Fehleinschätzung verleitet, um äußerst zuverlässige Antworten der KI zu gewährleisten. Die neu entwickelte Technologie nutzt eine Technik, die Fujitsu gemeinsam mit der Ben-Gurion-Universität des Negev im Fujitsu Small Research Lab an der Ben-Gurion-Universität entwickelt hat. Die Technologie nutzt die Tendenz aus, dass feindliche Einheiten häufig einen einzigen Typ von KI-Modellen angreifen, und erkennt bösartige Daten, indem sie Informationen mit verschiedenen KI-Modellen verarbeitet und die unterschiedlichen Begründungen für das Beurteilungsergebnis auswertet.
Die Technologie kann nicht nur zur Erkennung von Phishing-URLs, sondern auch zur Verhinderung allgemeiner Angriffe zur Täuschung von KI-Modellen, die tabellarische Daten verwenden, und damit auch zur Abwehr von Angriffen auf andere Dienste eingesetzt werden.
[1] Fujitsu Small Research Lab:Initiative, bei der Fujitsu-Forscher in Technologie-Inkubatoren an Universitäten in Japan und international eingebettet sind, um gemeinsame Forschung mit einigen der führenden Köpfe auf ihrem Gebiet durchzuführen, darunter Professoren sowie die nächste Generation von Forschern.
[2] Einzelne Benutzer können auch die erweiterten APIs und Webanwendungen von Fujitsu ausprobieren, indem sie ein Konto im Fujitsu Research Portal erstellen. (Fujitsu Research Portal: Portalseite, die seit Juni 2023 für die Öffentlichkeit zugänglich ist, um registrierten Benutzern Zugang zu Testversionen der fortschrittlichen Technologien von Fujitsu zu bieten. Fujitsu bietet Unternehmensbenutzern fortschrittliche Technologien über „Fujitsu Kozuchi (Codename) – Fujitsu AI Platform“ an) und an einzelne Benutzer über diese Portalseite.)
[3] WikiBio GPT-3-Halluzinationsdatensatz:Auf Wikipedia basierende Benchmark-Daten zur Halluzinationserkennung
[4] AUC-ROC (Fläche unter der Kurve der Betriebskennlinie des Empfängers):Die Fläche unter der Kurve, die erhalten wird, wenn der Schwellenwert der Beurteilung in Bezug auf den Anomaliewert geändert wird, indem die Richtig-Positiv-Rate auf der vertikalen Achse und die Falsch-Positiv-Rate auf der horizontalen Achse aufgetragen wird. Eine zufällige Anomaliebewertung beträgt 0.5 und eine perfekte Antwort ist 1.0. Es wird allgemein davon ausgegangen, dass ein bestimmtes Leistungsniveau erreicht werden kann, wenn es über 0.7 liegt.
[5] SelfCheckGPT:Eine Technologie zur Erkennung von Halluzinationen, die an der Universität Cambridge, Großbritannien, entwickelt wurde
Fujitsus Bekenntnis zu den Sustainable Development Goals (SDGs)
Die 2015 von den Vereinten Nationen verabschiedeten Sustainable Development Goals (SDGs) stellen eine Reihe gemeinsamer Ziele dar, die bis 2030 weltweit erreicht werden sollen. Fujitsus Ziel – „die Welt nachhaltiger zu machen, indem durch Innovation Vertrauen in die Gesellschaft aufgebaut wird“ – ist ein Versprechen zur Vision einer besseren Zukunft beitragen, die durch die SDGs gestärkt wird.
Über Fujitsu
Fujitsus Ziel ist es, die Welt nachhaltiger zu machen, indem durch Innovation Vertrauen in die Gesellschaft aufgebaut wird. Als bevorzugter digitaler Transformationspartner für Kunden in über 100 Ländern arbeiten unsere 124,000 Mitarbeiter daran, einige der größten Herausforderungen der Menschheit zu lösen. Unser Leistungs- und Lösungsangebot stützt sich auf fünf Schlüsseltechnologien: Computing, Netzwerke, KI, Daten und Sicherheit sowie konvergierende Technologien, die wir zusammenführen, um eine nachhaltige Transformation zu ermöglichen. Fujitsu Limited (TSE:6702) meldete für das Geschäftsjahr zum 3.7. März 28 einen konsolidierten Umsatz von 31 Billionen Yen (2023 Milliarden US-Dollar) und bleibt gemessen am Marktanteil das führende Unternehmen für digitale Dienstleistungen in Japan. Finde mehr heraus: www.fujitsu.com.
Pressekontakte:
Fujitsu Limited
Abteilung Öffentlichkeitsarbeit und Investor Relations
Anfragen (https://bit.ly/3rrQ4mB)
- SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
- PlatoData.Network Vertikale generative KI. Motiviere dich selbst. Hier zugreifen.
- PlatoAiStream. Web3-Intelligenz. Wissen verstärkt. Hier zugreifen.
- PlatoESG. Kohlenstoff, CleanTech, Energie, Umwelt, Solar, Abfallwirtschaft. Hier zugreifen.
- PlatoHealth. Informationen zu Biotechnologie und klinischen Studien. Hier zugreifen.
- Quelle: https://www.jcnnewswire.com/pressrelease/86719/3/
- :hast
- :Ist
- :nicht
- :Wo
- 000
- 1
- 100
- 2015
- 2023
- 2030
- 26%
- 28
- 31
- 7
- a
- Zugang
- entsprechend
- Konto
- Genauigkeit
- genau
- genau
- erreicht
- über
- präsentieren
- hinzufügen
- Adresse
- angenommen
- advanced
- Fortschritte
- widersprüchlich
- gegen
- voraus
- AI
- KI-Modelle
- KI-Plattform
- KI-Systeme
- KI-Training
- Anvisieren
- Ziel
- ebenfalls
- Obwohl
- an
- und
- angekündigt
- beantworten
- APIs
- Anwendungen
- Anwendung
- ca.
- SIND
- Bereich
- AS
- fragen
- At
- Attacke
- Anschläge
- Im Prinzip so, wie Sie es von Google Maps kennen.
- verfügbar
- vermeiden
- Achse
- basierend
- BE
- war
- ben
- Ben Gurion
- Ben-Gurion-Universität
- Benchmarking
- Besser
- Milliarde
- beide
- geht kaputt
- Durchbruch
- bringen
- Building
- Geschäft
- Unternehmen
- aber
- by
- Berechnen
- Cambridge
- CAN
- Fälle
- sicher
- Herausforderungen
- geändert
- Merkmal
- Wahl
- Code
- zusammenarbeiten
- Bemerkungen
- Engagement
- gemeinsam
- Unternehmen
- verglichen
- abschließen
- Computing
- Leiten
- betrachtet
- Kontakte
- Inhalt
- beitragen
- Beitrag
- konvergierend
- Konvergierende Technologien
- Konversations
- Konversations-KI
- Kernbereich
- Unternehmen
- könnte
- Ländern
- schafft
- Erstellen
- kritischem
- Kurve
- Kunden
- technische Daten
- gewidmet
- Militär
- definieren
- Grad
- Übergeben
- Demo
- entdecken
- Entdeckung
- entwickelt
- Entwicklung
- abweichen
- Unterschied
- anders
- schwer
- digital
- digital services
- Unternehmen für digitale Dienstleistungen
- Digitale Transformation
- Division
- Domain
- nach unten
- zeichnen
- eingebettet
- taucht auf
- Mitarbeiter
- ermächtigt
- beendet
- Motor
- zu steigern,
- gewährleisten
- Entitäten
- Arbeitsumfeld
- etablierten
- Festlegung
- schätzen
- etc
- bewerten
- Auswerten
- vorhandenen
- express
- Ausdrücke
- extern
- Extrakt
- zugewandt
- Tatsache
- Fälschung
- falsch
- Felder
- Abbildung
- Filterung
- Finden Sie
- Vorname
- Fiscal
- fünf
- Setzen Sie mit Achtsamkeit
- konzentriert
- Aussichten für
- Fälschung
- gefunden
- häufig
- für
- Fujitsu
- Zukunft
- Allgemeines
- allgemein
- erzeugt
- Generation
- generativ
- Generative KI
- Global
- globaler Markt
- Ziele
- größte
- Haben
- höher
- hoch
- Horizontale
- HTTPS
- Menschlichkeit
- identifiziert
- identifizieren
- Image
- implementieren
- zu unterstützen,
- in
- das
- Einschließlich
- Steigert
- Labor-Inkubatoren
- Krankengymnastik
- Information
- injizieren
- Innovation
- innovativ
- international
- in
- Investor
- Abteilung Investor Relations
- Problem
- Probleme
- IT
- SEINE
- Japan
- dank
- jpg
- Juni
- Wesentliche
- Labor
- starten
- startet
- führen
- führenden
- Niveau
- Hebelwirkungen
- wahrscheinlich
- Limitiert
- um
- Making
- manipuliert
- März
- Markt
- Marktanteil
- Mechanismus
- Nachricht
- Methode
- Methoden
- könnte
- Köpfe
- ML
- Modell
- für
- mehr
- ziehen um
- Name
- Namens
- Nationen
- Netzwerke
- Neu
- Neue Technologien
- neu
- Newswire
- weiter
- Substantive
- Roman
- Zahlen
- Objekt
- erhalten
- Oktober
- of
- Angebote
- vorgenommen,
- on
- einmal
- laufend
- einzige
- XNUMXh geöffnet
- offene Daten
- die
- Einkauf & Prozesse
- or
- Andere
- UNSERE
- Möglichkeiten für das Ausgangssignal:
- übrig
- Überblick
- Partner
- Teile
- perfekt
- Leistung
- Phänomen
- Phishing
- Sätze
- Pionierarbeit
- zentrale
- Platzierung
- Pläne
- Plattform
- Plato
- Datenintelligenz von Plato
- PlatoData
- Portal
- positiv
- größte treibende
- verhindern
- abwehr
- Verarbeitung
- Versprechen
- ordnungsgemäße
- Risiken zu minimieren
- die
- vorausgesetzt
- bietet
- Öffentlichkeit
- Zweck
- Fragen
- zufällig
- Angebot
- Bewerten
- Begründung
- Reich
- reduziert
- eingetragen
- bezogene
- Verhältnis
- Zuverlässigkeit
- zuverlässig
- bleibt bestehen
- wiederholt
- WIEDERHOLT
- antworten
- Berichtet
- vertreten
- representiert
- Forschungsprojekte
- Forscher
- federnde
- Robustes Design
- Umwelt und Kunden
- Antworten
- Folge
- was zu
- Einnahmen
- gleich
- Ergebnis
- SDGs
- Verbindung
- Sicherheitdienst
- September
- September
- Lösungen
- Dienstleistungsunternehmen
- kompensieren
- Teilen
- da
- Single
- am Standort
- klein
- Gesellschaft
- Lösungen
- einige
- spezifisch
- steht
- Beginnen Sie
- State-of-the-art
- Schritt
- Fach
- so
- Nachhaltigkeit
- nachhaltiger
- Nachhaltige Entwicklung
- Systeme und Techniken
- Aufgabe
- Technologies
- Technologie
- als
- zur Verbesserung der Gesundheitsgerechtigkeit
- Das
- Die Zukunft
- die Welt
- ihr
- dann
- Diese
- fehlen uns die Worte.
- Bedrohungen
- nach drei
- Schwelle
- Durch
- So
- zu
- heute
- gemeinsam
- Werkzeug
- Top
- Ausbildung
- Transformation
- Transformationspartner
- Versuch
- Billion
- was immer dies auch sein sollte.
- Vertrauen
- vertraut
- vertrauenswürdig
- versuchen
- TSE:6702
- XNUMX
- tippe
- Letztlich
- nicht fähig
- für
- Vereinigt
- vereinigte nationen
- Universitäten
- Universität
- Universität von Cambridge
- URL
- -
- benutzt
- Nutzer
- verwendet
- Verwendung von
- Wert
- verschiedene
- Versionen
- vertikal
- Seh-
- Warnung
- we
- Netz
- Web Applikationen
- Webseiten
- GUT
- wann
- welche
- während
- breit
- Große Auswahl
- Wikipedia
- werden wir
- mit
- .
- Arbeiten
- weltweit wie ausgehandelt und gekauft ausgeführt wird.
- Das weltweit
- Jahr
- Yen
- Zephyrnet