도쿄, 26년 2023월 XNUMX일 – (JCN Newswire) – Fujitsu는 오늘 대화형 AI 모델의 응답 신뢰성을 향상시키기 위해 두 가지 새로운 AI 신뢰 기술 출시를 발표했습니다. 새로 개발된 기술에는 대화형 AI 모델에서 생성 AI가 부정확하거나 관련 없는 출력을 생성하는 현상인 환각을 감지하는 기술과 소규모 연구소에서 공동 개발한 기술이 포함됩니다.1) 벤 구리온 대학에서는 허위 정보를 주입하는 중독 공격을 통해 AI의 응답에 이식된 피싱 사이트 URL을 탐지합니다.
Fujitsu는 새로운 기술을 통해 기업 및 개인 사용자에게 대화형 AI의 응답 신뢰성을 평가할 수 있는 도구를 제공하고 궁극적으로 기술을 구현하려는 기업을 포함하여 다양한 사용 사례에서 AI를 보다 안전하게 사용하는 데 기여하는 것을 목표로 합니다. 실제 운영.
벤 구리온 대학교 유발 엘로비치(Yuval Elovici) 교수는 다음과 같이 말했습니다. “제너레이티브 AI는 중요한 영역으로 자리잡고 있으며, 그 안에서 Fujitsu가 개발한 환각 감지 기술은 신뢰할 수 있는 대화형 AI 시스템을 구축하는 데 중추적인 역할을 합니다. BGU(Ben-Gurion University)와 Fujitsu의 연구원들은 적대적 위협에 맞서 AI 기반 URL 필터링의 보안을 강화하는 혁신적인 기술을 개척했습니다. 우리의 혁신은 테이블 형식 데이터에 중점을 두어 AI 기반 URL 필터링 영역에서 적대적 공격에 대한 보다 탄력적인 방어 메커니즘을 구현합니다. 앞으로 Fujitsu와 Ben-Gurion University는 Generative AI 영역 내에서 새로운 보안 중심 발전을 구축하기 위해 협력할 예정입니다.”
Fujitsu는 사용자에게 광범위하고 강력한 AI 및 ML 기술에 대한 액세스를 제공하는 "Fujitsu Kozuchi(코드명) - Fujitsu AI 플랫폼"을 통해 제공되는 대화형 AI 코어 엔진에 이러한 신기술을 포함할 예정입니다. 대화형 AI의 환각 탐지 기술은 28년 2023월 2023일부터 일본 사용자에게 제공될 예정이며, 대화형 AI의 응답으로 피싱 사이트 URL을 탐지하는 기술은 XNUMX년 XNUMX월부터 사용할 수 있습니다. 두 가지 신기술은 모두 기업 사용자에게 Kozuchi를 통한 데모 환경과 전용 포털 사이트(2). Fujitsu는 향후 두 기술을 글로벌 시장에 출시할 계획입니다.
기업에서는 대화형 AI를 비즈니스 운영에 적용할 때 기 등록된 비즈니스 데이터에서 질문과 관련된 정보를 추출해 외부 대화형 AI에 질문할 때 참고 정보로 추가하는 기술을 활용하는 경우가 많다. 이 방법은 정확한 답변을 제공하고 환각을 줄이지만, 대화형 AI가 질문과 관련된 정보를 올바르게 추출하지 못하고 그에 따라 관련이 없거나 잘못된 답변을 생성하는 경우가 있기 때문에 완벽한 환각 예방은 지속적인 문제를 나타냅니다. AI의 대답이 환각(환각 점수)일 수 있는 정도를 추정하는 방법은 있지만 대화형 AI가 동일한 사실을 표현하기 위해 다양한 문구를 사용하기 때문에 이 점수를 정확하게 추정하는 것은 여전히 어려운 작업입니다.
후지쯔는 대화형 AI가 고유명사와 숫자에 대해 잘못된 정보를 자주 생성하고, 반복되는 질문에 따라 답변 내용이 달라지는 경향이 있다는 점을 토대로 문장에서 환각이 발생할 가능성이 있는 부분을 식별하고 집중하는 기술을 개발했습니다.
매우 정확한 환각 점수를 계산하기 위해 신기술은 먼저 AI의 답변을 세 부분(주어, 술어, 목적어 등)으로 나눈 다음 답변 내에서 명명된 개체를 자동으로 식별합니다. 다음 단계로 기술은 이러한 명명된 엔터티를 비워두고 외부 AI에게 이러한 특정 표현을 보다 정확하게 정의하도록 반복적으로 요청합니다. (그림 2)
Fujitsu는 WikiBio GPT-3 환각 데이터세트(3) 검출 정확도(AUC-ROC)를 향상시킬 수 있음을 발견했습니다(4) SelfCheckGPT(5).
대화형 AI는 훈련 데이터를 기반으로 응답을 생성하므로, 적대적인 주체는 AI 훈련 데이터에 악성 정보를 심어 가짜 웹 사이트로 연결되는 피싱 URL과 같은 조작된 정보가 포함된 응답을 생성하도록 AI를 속일 수 있습니다.
이 문제를 해결하기 위해 Fujitsu는 대화형 AI의 응답에서 조작된 URL을 탐지하는 기술을 개발했습니다. 기술이 피싱 URL을 식별하면 사용자에게 경고 메시지를 보냅니다.
Fujitsu의 신기술은 피싱 URL을 탐지할 뿐만 아니라 AI 모델을 속여 고의적으로 오판을 하게 만드는 기존 공격에 대한 AI의 저항력을 높여 AI의 신뢰성 높은 대응을 보장합니다. 새로 개발된 기술은 후지쯔와 네게브 벤구리온 대학이 벤구리온 대학에 설립한 후지쯔 소규모 연구소에서 공동 개발한 기술을 활용합니다. 적대적 개체가 단일 유형의 AI 모델을 공격하는 경우가 많다는 점을 활용해, 다양한 AI 모델로 정보를 처리하고 판단 결과에 대한 근거의 차이를 평가해 악성 데이터를 탐지하는 기술이다.
이 기술은 피싱 URL 탐지뿐만 아니라, 표 형식의 데이터를 활용한 AI 모델을 속이는 일반적인 공격을 예방하는 데에도 활용될 수 있어, 다른 서비스에 대한 공격을 예방하는 데에도 활용될 수 있다.
[1] Fujitsu 소규모 연구소 :Fujitsu 연구원이 일본 및 국제 대학의 기술 인큐베이터에 배치되어 교수 및 차세대 연구원을 포함하여 해당 분야의 일부 선도적인 사람들과 공동 연구를 수행하는 이니셔티브입니다.
[2] 개별 사용자는 Fujitsu Research Portal에서 계정을 생성하여 Fujitsu의 고급 API 및 웹 애플리케이션을 시험해 볼 수도 있습니다. (Fujitsu Research Portal: 등록된 사용자에게 Fujitsu의 고급 기술 평가판에 대한 액세스를 제공하기 위해 2023년 XNUMX월부터 대중에게 공개된 포털 사이트입니다. Fujitsu는 "Fujitsu Kozuchi(코드명) – Fujitsu AI Platform"을 통해 기업 사용자에게 고급 기술을 제공합니다. 및 본 포털 사이트를 통해 개인 사용자에게 제공됩니다.)
[3] WikiBio GPT-3 환각 데이터세트:환각 감지를 위한 Wikipedia 기반 벤치마크 데이터
[4] AUC-ROC(수신기 작동 특성 곡선의 곡선 아래 영역):세로축을 진양성률, 가로축을 위양성률로 하여 이상점수에 대하여 판정의 임계값을 변화시켰을 때 구해지는 곡선의 아래 면적. 무작위 이상 점수는 0.5이고, 정답은 1.0입니다. 일반적으로 0.7 이상이면 어느 정도의 성능을 얻을 수 있다고 본다.
[5] 셀프체크GPT:영국 케임브리지대학교에서 개발한 환각 감지 기술
지속 가능한 개발 목표 (SDG)에 대한 Fujitsu의 약속
2015년 UN에서 채택한 지속 가능한 개발 목표(SDGs)는 2030년까지 전 세계적으로 달성해야 하는 공통 목표를 나타냅니다. Fujitsu의 목적 - "혁신을 통해 사회에 대한 신뢰를 구축하여 더 지속 가능한 세상을 만든다"는 약속입니다. SDGs에 의해 강화된 더 나은 미래의 비전에 기여합니다.
Fujitsu 정보
Fujitsu의 목표는 혁신을 통해 사회의 신뢰를 구축하여 세상을 보다 지속 가능하게 만드는 것입니다. 100개 이상의 국가에서 고객이 선택한 디지털 혁신 파트너로서 124,000명의 직원이 인류가 직면한 가장 큰 문제를 해결하기 위해 노력하고 있습니다. 당사의 다양한 서비스 및 솔루션은 컴퓨팅, 네트워크, AI, 데이터 및 보안, 융합 기술의 6702가지 핵심 기술을 기반으로 하며, 지속 가능성 혁신을 제공하기 위해 함께 제공합니다. Fujitsu Limited(TSE:3.7)는 28년 31월 2023일 마감된 회계연도에 XNUMX조 XNUMX억 엔(미화 XNUMX억 달러)의 연결 매출을 보고했으며 시장 점유율 기준으로 일본 최고의 디지털 서비스 회사로 남아 있습니다. 더 찾아 봐: www.fujitsu.com.
연락처 언론 :
Fujitsu Limited
홍보 및 투자자 관계 부서
문의 (https://bit.ly/3rrQ4mB)
- SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
- PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
- PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
- 플라톤ESG. 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
- PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
- 출처: https://www.jcnnewswire.com/pressrelease/86719/3/
- :있다
- :이다
- :아니
- :어디
- 000
- 1
- 100
- 2015
- 2023
- 2030
- 26%
- 28
- 31
- 7
- a
- ACCESS
- 따라서
- 계정
- 정확한
- 정확히
- 달성
- 가로질러
- 실제
- 더하다
- 주소
- 채택
- 많은
- 발전
- 적의
- 반대
- 앞으로
- AI
- AI 모델
- AI 플랫폼
- AI 시스템
- AI 교육
- 조준
- 목표
- 또한
- 이기는하지만
- an
- 및
- 발표
- 답변
- API
- 어플리케이션
- 적용
- 대략
- 있군요
- 지역
- AS
- 질문
- At
- 공격
- 공격
- 자동적으로
- 가능
- 피하기
- 축
- 기반으로
- BE
- 된
- 벤
- 벤 구리온
- 벤구리온대학교
- 벤치마킹
- 더 나은
- 억원
- 두
- 휴식
- 돌파구
- 가져
- 건물
- 사업
- 사업
- 비자 면제 프로그램에 해당하는 국가의 시민권을 가지고 있지만
- by
- 계산하다
- 캠브리지
- CAN
- 가지 경우
- 어떤
- 과제
- 변경
- 특성
- 선택
- 암호
- 협력
- 댓글
- 헌신
- 공통의
- 회사
- 비교
- 완전한
- 컴퓨팅
- 행위
- 고려
- 콘택트 렌즈
- 내용
- 기여하다
- 기여
- 수렴
- 융합 기술
- 이야기 잘하는
- 대화 형 AI
- 핵심
- Corporate
- 수
- 국가
- 생성
- 만들기
- 임계
- 곡선
- 고객
- 데이터
- 전용
- 방위산업
- 밝히다
- 도
- 배달하다
- 데모
- 검색
- Detection System
- 개발
- 개발
- 다르다
- 차이
- 다른
- 어려운
- 디지털
- 디지털 서비스
- 디지털 서비스 회사
- 디지털 전환
- 분할
- 도메인
- 아래 (down)
- 무승부
- 임베디드
- 나온다.
- 직원
- 권한
- 종료
- 엔진
- 강화
- 확인
- 엔티티
- 환경
- 확립 된
- 설립
- 견적
- 등
- 평가
- 평가
- 현존하는
- 급행
- 표현
- 외부
- 추출물
- 마주보고
- 사실
- 모조품
- 그릇된
- Fields
- 그림
- 필터링
- Find
- 먼저,
- 재정상의
- 다섯
- 초점
- 집중
- 럭셔리
- 단조
- 발견
- 자주
- 에
- 후지쯔
- 미래
- 일반
- 일반적으로
- 생성
- 세대
- 생성적인
- 제너레이티브 AI
- 글로벌
- 글로벌 시장
- 목표
- 가장 큰
- 있다
- 더 높은
- 고도로
- 수평
- HTTPS
- 인간성
- 식별하다
- 확인
- 영상
- 구현
- 개선
- in
- 포함
- 포함
- 증가
- 인큐베이터
- 개인
- 정보
- 주입
- 혁신
- 혁신적인
- 국제적으로
- 으로
- 투자자
- 투자자 관계 부서
- 발행물
- 문제
- IT
- 그
- 일본
- 관절
- JPG
- 유월
- 키
- 실험실
- 시작
- 시작
- 리드
- 지도
- 레벨
- 레버리지
- 아마도
- 제한된
- 확인
- 유튜브 영상을 만드는 것은
- 조작
- Mar
- 시장
- 시장 점유율
- 기구
- 메시지
- 방법
- 방법
- 수도
- 마음
- ML
- 모델
- 모델
- 배우기
- 움직이는
- name
- 이름
- 연합
- 네트워크
- 신제품
- 새로운 기술
- 새로운
- 뉴스 와이어
- 다음 것
- 명사
- 소설
- 숫자
- 대상
- 획득
- 십월
- of
- 제공
- 자주
- on
- 일단
- 지속적으로
- 만
- 열 수
- 오픈 데이터
- 운영
- 행정부
- or
- 기타
- 우리의
- 아웃
- 출력
- 위에
- 개요
- 파트너
- 부품
- 완전한
- 성능
- 현상
- 피싱
- 구문
- 개척 된
- 추축의
- 자본 매출
- 계획
- 플랫폼
- 플라톤
- 플라톤 데이터 인텔리전스
- 플라토데이터
- 포털
- 긍정적인
- 강한
- 예방
- 예방
- 처리
- 약속
- 적절한
- 보호
- 제공
- 제공
- 제공
- 공개
- 목적
- 문의
- 닥치는대로의
- 범위
- 율
- 이론적 해석
- 왕국
- 감소
- 등록된
- 관련
- 관계
- 신뢰성
- 신뢰할 수있는
- 유적
- 반복
- 자꾸
- 댓글
- 보고
- 대표
- 대표
- 연구
- 연구원
- 탄력
- 저항
- 점
- 응답
- 결과
- 결과
- 수익
- 같은
- 점수
- SDGs
- 안전해야합니다.
- 보안
- 일곱
- XNUMX월
- 서비스
- 서비스 회사
- 세트
- 공유
- 이후
- 단일
- 대지
- 작은
- 사회
- 솔루션
- 일부
- 구체적인
- 서
- 시작 중
- 최첨단
- 단계
- 제목
- 이러한
- 지속 가능성
- 지속가능한
- 지속 가능한 개발
- 시스템은
- 태스크
- 기술
- Technology
- 보다
- 그
- XNUMXD덴탈의
- 미래
- 세계
- 그들의
- 그때
- Bowman의
- 이
- 위협
- 세
- 임계값
- 을 통하여
- 그러므로
- 에
- 오늘
- 함께
- 수단
- 상단
- 트레이닝
- 변환
- 변신 파트너
- 시도
- 일조
- 참된
- 믿어
- 신뢰할 수있는
- 신뢰할 수있는
- 시도
- TSE:6702
- 두
- 유형
- 궁극적으로
- 할 수 없는
- 아래에
- 미국
- 연합 국가
- 대학
- 대학
- 캠브리지 대학교
- URL
- 사용
- 익숙한
- 사용자
- 사용
- 사용
- 가치
- 여러
- 버전
- 수직선
- 를 통해
- 시력
- 경고
- we
- 웹
- 웹 애플리케이션
- 웹 사이트
- 잘
- 언제
- 어느
- 동안
- 넓은
- 넓은 범위
- 위키 백과
- 의지
- 과
- 이내
- 작업
- 세계
- 전세계적인
- year
- 엔
- 제퍼 넷