ผู้แต่ง: วิทาลิก บูเตริน ผ่านทาง บล็อกของ Vitalik Buterin
ขอขอบคุณเป็นพิเศษสำหรับทีมงาน Worldcoin และ Modulus Labs, Xinyuan Sun, Martin Koeppelmann และ Illia Polosukhin สำหรับข้อเสนอแนะและการสนทนา
ในช่วงหลายปีที่ผ่านมา หลายๆ คนถามคำถามที่คล้ายกันกับฉัน: คืออะไร ทางแยก ระหว่าง crypto และ AI ที่ผมคิดว่าได้ผลมากที่สุด? เป็นคำถามที่สมเหตุสมผล: crypto และ AI เป็นสองแนวโน้มเทคโนโลยีเชิงลึก (ซอฟต์แวร์) หลักในทศวรรษที่ผ่านมา และรู้สึกเหมือนเป็นเช่นนั้น ต้อง มีความสัมพันธ์บางอย่างระหว่างคนทั้งสอง เป็นเรื่องง่ายที่จะเกิดการทำงานร่วมกันในระดับผิวเผิน: การกระจายอำนาจของ crypto สามารถทำได้ สร้างสมดุลให้กับการรวมศูนย์ AI, AI นั้นไม่ชัดเจน และ crypto นำมาซึ่งความโปร่งใส, AI ต้องการข้อมูล และบล็อกเชนนั้นดีสำหรับการจัดเก็บและติดตามข้อมูล แต่ในช่วงหลายปีที่ผ่านมา เมื่อผู้คนขอให้ฉันเจาะลึกลงไปอีกระดับหนึ่งและพูดคุยเกี่ยวกับการใช้งานที่เฉพาะเจาะจง คำตอบของฉันก็น่าผิดหวัง: “ใช่ มีบางอย่างแต่ไม่มากขนาดนั้น”
ในช่วงสามปีที่ผ่านมาด้วยการเพิ่มขึ้นของ AI ที่ทรงพลังมากขึ้นในรูปแบบสมัยใหม่ ปริญญามหาบัณฑิตและการเพิ่มขึ้นของสกุลเงินดิจิทัลที่ทรงพลังมากขึ้นในรูปแบบของโซลูชันการปรับขนาดบล็อคเชนไม่เพียงเท่านั้น แต่ยังรวมถึง ZKP, ฟฮ, (สองฝ่ายและ N-ฝ่าย) คณะกรรมการนโยบายการเงินฉันเริ่มเห็นการเปลี่ยนแปลงนี้แล้ว มีแอปพลิเคชั่น AI ที่มีแนวโน้มอยู่ในระบบนิเวศบล็อคเชนจริงๆ หรือ AI ร่วมกับการเข้ารหัสแม้ว่าสิ่งสำคัญคือต้องระมัดระวังเกี่ยวกับวิธีการนำ AI ไปใช้ ความท้าทายเฉพาะคือ: ในวิทยาการเข้ารหัสลับ โอเพ่นซอร์สเป็นวิธีเดียวที่จะสร้างบางสิ่งที่ปลอดภัยอย่างแท้จริง แต่ใน AI แบบจำลอง (หรือแม้แต่ข้อมูลการฝึกอบรม) ที่เปิดอยู่ เพิ่มขึ้นอย่างมาก ความอ่อนแอของมันต่อ แมชชีนเลิร์นนิงของฝ่ายตรงข้าม การโจมตี โพสต์นี้จะอธิบายผ่านการจำแนกประเภทของวิธีต่างๆ ที่ crypto + AI สามารถตัดกัน และโอกาสและความท้าทายของแต่ละหมวดหมู่
สรุประดับสูงของทางแยก crypto+AI จาก a โพสต์ในบล็อกของ uETH. แต่จะต้องทำอย่างไรจึงจะตระหนักถึงการทำงานร่วมกันเหล่านี้ในการใช้งานที่เป็นรูปธรรม?
สี่ประเภทหลัก
AI เป็นแนวคิดที่กว้างมาก: คุณสามารถนึกถึง "AI" ว่าเป็นชุดของอัลกอริธึมที่คุณสร้างขึ้นไม่ได้โดยการระบุอย่างชัดเจน แต่เป็นการกวนซุปคอมพิวเตอร์ขนาดใหญ่และเพิ่มแรงกดดันในการเพิ่มประสิทธิภาพบางอย่างที่จะดันซุปไปทาง สร้างอัลกอริธึมที่มีคุณสมบัติตามที่คุณต้องการ คำอธิบายนี้ไม่ควรมองข้ามอย่างแน่นอน: มัน รวมถึง กระบวนการ ที่ ที่สร้างขึ้น มนุษย์เราตั้งแต่แรก! แต่มันหมายความว่าอัลกอริธึม AI มีคุณสมบัติทั่วไปบางประการ นั่นคือ ความสามารถในการทำสิ่งต่าง ๆ ที่ทรงพลังอย่างยิ่ง พร้อมด้วยขีดจำกัดในความสามารถของเราในการรู้หรือเข้าใจสิ่งที่เกิดขึ้นภายใต้ประทุน
มีหลายวิธีในการจัดหมวดหมู่ AI; สำหรับวัตถุประสงค์ของโพสต์นี้ ซึ่งพูดถึงปฏิสัมพันธ์ระหว่าง AI และบล็อกเชน (ซึ่งได้รับการอธิบายว่าเป็นแพลตฟอร์มสำหรับ การสร้าง “เกม”) ผมจะจัดหมวดหมู่ดังนี้:
- AI ในฐานะผู้เล่นในเกม [ความสามารถสูงสุด]: AI มีส่วนร่วมในกลไกที่แหล่งที่มาสูงสุดของสิ่งจูงใจมาจากโปรโตคอลที่มีการป้อนข้อมูลจากมนุษย์
- AI เป็นส่วนต่อประสานกับเกม [มีศักยภาพสูง แต่มีความเสี่ยง]: AI ช่วยให้ผู้ใช้เข้าใจโลก crypto รอบตัวพวกเขา และเพื่อให้แน่ใจว่าพฤติกรรมของพวกเขา (เช่น ข้อความที่เซ็นชื่อและธุรกรรม) ตรงกับความตั้งใจของพวกเขา และพวกเขาจะไม่ถูกหลอกหรือหลอกลวง
- AI เป็นกฎของเกม [เหยียบอย่างระมัดระวัง]: blockchains, DAO และกลไกที่คล้ายกันเรียกใช้ AI โดยตรง คิดเช่น. “ผู้พิพากษาเอไอ”
- AI เป็นเป้าหมายของเกม [ระยะยาว แต่น่าสนใจ]: การออกแบบบล็อกเชน DAO และกลไกที่คล้ายกันโดยมีเป้าหมายในการสร้างและบำรุงรักษา AI ที่สามารถใช้เพื่อวัตถุประสงค์อื่น โดยใช้บิตเข้ารหัสเพื่อสร้างแรงจูงใจในการฝึกอบรมที่ดีขึ้น หรือเพื่อป้องกันไม่ให้ AI รั่วไหลข้อมูลส่วนตัวหรือนำไปใช้ในทางที่ผิด
ให้เราผ่านสิ่งเหล่านี้ทีละคน
AI ในฐานะผู้เล่นในเกม
นี่เป็นหมวดหมู่ที่มีอยู่มาเกือบทศวรรษแล้วอย่างน้อยก็ตั้งแต่นั้นมา การแลกเปลี่ยนแบบกระจายอำนาจแบบออนไลน์ (DEX) เริ่มเห็นการใช้งานอย่างมีนัยสำคัญ เมื่อใดก็ตามที่มีการแลกเปลี่ยน มีโอกาสที่จะสร้างรายได้ผ่านการเก็งกำไร และบอทก็สามารถทำการเก็งกำไรได้ดีกว่ามนุษย์มาก กรณีการใช้งานนี้มีมานานแล้ว แม้ว่าจะมี AI ที่เรียบง่ายกว่าที่เรามีในปัจจุบันมาก แต่ท้ายที่สุดแล้ว มันก็เป็นจุดตัดระหว่าง AI + Crypto ที่แท้จริง ล่าสุด เราได้เห็นบอทเก็งกำไร MEV แล้ว มักจะเอาเปรียบกัน. ทุกครั้งที่คุณมีแอปพลิเคชันบล็อกเชนที่เกี่ยวข้องกับการประมูลหรือการซื้อขาย คุณจะมีบอทเก็งกำไร
แต่บอตการเก็งกำไรของ AI เป็นเพียงตัวอย่างแรกของหมวดหมู่ที่ใหญ่กว่ามาก ซึ่งฉันคาดว่าจะเริ่มรวมแอปพลิเคชันอื่น ๆ อีกมากมายในไม่ช้า พบกับ AIOmen, a การสาธิตตลาดการคาดการณ์ที่ AI เป็นผู้เล่น:
คำตอบประการหนึ่งสำหรับเรื่องนี้คือการชี้ไปที่การปรับปรุง UX อย่างต่อเนื่อง โพลีมาร์เก็ต หรือตลาดการคาดการณ์ใหม่ๆ อื่นๆ และหวังว่าพวกเขาจะประสบความสำเร็จในกรณีที่การทำซ้ำก่อนหน้านี้ล้มเหลว เรื่องราวดำเนินไป ผู้คนต่างยินดีเดิมพัน กีฬานับหมื่นล้านแล้วทำไมผู้คนถึงไม่ทุ่มเงินมากพอในการเดิมพันการเลือกตั้งสหรัฐฯ หรือ LK99 มันเริ่มสมเหตุสมผลแล้วที่นักเตะตัวจริงจังจะเริ่มเข้ามา? แต่ข้อโต้แย้งนี้ต้องโต้แย้งกับข้อเท็จจริงที่ว่า การวนซ้ำครั้งก่อนๆ มี ล้มเหลวในการไปถึงระดับนี้ (อย่างน้อยก็เมื่อเทียบกับความฝันของผู้เสนอ) และดูเหมือนว่าคุณต้องการ สิ่งใหม่ ๆ เพื่อให้ตลาดการคาดการณ์ประสบความสำเร็จ ดังนั้นการตอบสนองที่แตกต่างออกไปคือการชี้ไปที่คุณลักษณะเฉพาะอย่างหนึ่งของระบบนิเวศตลาดการคาดการณ์ที่เราคาดว่าจะเห็นในปี 2020 ซึ่งเราไม่ได้เห็นในปี 2010: ความเป็นไปได้ที่ AI จะมีส่วนร่วมอย่างแพร่หลาย.
AI ยินดีที่จะทำงานในราคาต่ำกว่า 1 เหรียญต่อชั่วโมง และมีความรู้เกี่ยวกับสารานุกรม และหากยังไม่เพียงพอ ก็สามารถบูรณาการเข้ากับความสามารถในการค้นหาเว็บแบบเรียลไทม์ได้ หากคุณสร้างตลาดและตั้งเงินอุดหนุนสภาพคล่องจำนวน 50 ดอลลาร์ มนุษย์จะไม่สนใจมากพอที่จะเสนอราคา แต่ AI นับพันจะรุมตอบคำถามอย่างง่ายดายและคาดเดาได้ดีที่สุดเท่าที่จะทำได้ แรงจูงใจในการทำงานให้ดีกับคำถามข้อใดข้อหนึ่งอาจมีเพียงเล็กน้อย แต่เป็นแรงจูงใจในการสร้าง AI ที่คาดการณ์ได้ดี โดยทั่วไปแล้ว อาจจะเป็นล้านก็ได้ โปรดทราบว่าอาจเป็นไปได้ว่า คุณไม่จำเป็นต้องให้มนุษย์มาตัดสินคำถามส่วนใหญ่ด้วยซ้ำ: คุณสามารถใช้ระบบโต้แย้งหลายรอบได้เหมือนกัน ทำนายได้ หรือ Kleros โดยที่ AI จะเข้าร่วมในรอบก่อนหน้านี้ด้วย มนุษย์จะต้องตอบสนองเฉพาะในกรณีที่มีการบานปลายเกิดขึ้นหลายครั้งและมีการทำเงินจำนวนมากจากทั้งสองฝ่าย
นี่เป็นวิธีดั้งเดิมที่ทรงพลัง เพราะเมื่อ "ตลาดการคาดการณ์" สามารถทำงานในระดับจุลทรรศน์ได้ คุณจะสามารถนำ "ตลาดการคาดการณ์" ดั้งเดิมกลับมาใช้ซ้ำได้สำหรับคำถามประเภทอื่น ๆ อีกมากมาย:
- โพสต์บนโซเชียลมีเดียนี้ยอมรับภายใต้ [ข้อกำหนดการใช้งาน] หรือไม่
- จะเกิดอะไรขึ้นกับราคาหุ้น X (เช่น ดู Numerai)
- บัญชีนี้ที่กำลังส่งข้อความถึงฉันอยู่เป็น Elon Musk จริงหรือ
- การส่งงานนี้ในตลาดงานออนไลน์เป็นที่ยอมรับหรือไม่
- dApp ที่ https://examplefinance.network เป็นการหลอกลวงหรือไม่?
- Is
0x1b54....98c3
จริงๆ แล้วเป็นที่อยู่ของโทเค็น “Casinu Inu” ERC20 ใช่ไหม?
คุณอาจสังเกตเห็นว่าแนวคิดเหล่านี้มากมายไปในทิศทางที่ฉันเรียกว่า “การป้องกันข้อมูล" ใน . คำถามที่มีการกำหนดอย่างกว้างๆ คือ เราจะช่วยให้ผู้ใช้แยกแยะข้อมูลจริงและข้อมูลเท็จ และตรวจจับการหลอกลวงได้อย่างไร โดยไม่ต้องให้อำนาจแก่หน่วยงานส่วนกลางในการตัดสินว่าใครถูกและผิดว่าใครอาจละเมิดตำแหน่งนั้น ในระดับจุลภาค คำตอบอาจเป็น “AI” แต่ในระดับมหภาค คำถามคือ ใครเป็นผู้สร้าง AI? AI เป็นเพียงภาพสะท้อนของกระบวนการที่สร้างมันขึ้นมา ดังนั้นจึงไม่สามารถหลีกเลี่ยงการมีอคติได้ ดังนั้นจึงจำเป็นต้องมีเกมระดับสูงขึ้นซึ่งจะตัดสินว่า AI ต่างๆ ทำงานได้ดีเพียงใด โดยที่ AI สามารถมีส่วนร่วมในฐานะผู้เล่นในเกมได้.
การใช้ AI นี้ โดยที่ AI มีส่วนร่วมในกลไกที่พวกเขาได้รับรางวัลในที่สุดหรือถูกลงโทษ (อาจเป็นไปได้) โดยกลไกออนไลน์ที่รวบรวมข้อมูลจากมนุษย์ (เรียกว่ากระจายอำนาจตามตลาด) อาร์แอลเอชเอฟ?) เป็นสิ่งที่ฉันคิดว่าคุ้มค่าที่จะดูจริงๆ ตอนนี้เป็นเวลาที่เหมาะสมที่จะพิจารณากรณีการใช้งานเช่นนี้ให้มากขึ้น เนื่องจากในที่สุดการปรับขนาดบล็อคเชนก็ประสบความสำเร็จ ทำให้ในที่สุดสิ่งใดก็ตามที่เป็น "ไมโคร" ก็สามารถดำเนินการได้บนเชนเมื่อไม่เคยเกิดขึ้นมาก่อน
หมวดหมู่ของแอปพลิเคชันที่เกี่ยวข้องจะเป็นไปตามทิศทางของตัวแทนที่มีความเป็นอิสระสูง ใช้บล็อคเชนเพื่อให้ความร่วมมือดีขึ้นไม่ว่าจะผ่านการชำระเงินหรือผ่านการใช้สัญญาอัจฉริยะเพื่อสร้างข้อผูกพันที่น่าเชื่อถือ
AI เป็นส่วนต่อประสานกับเกม
ความคิดหนึ่งที่ฉันหยิบยกขึ้นมาในตัวฉัน เขียนบน เป็นแนวคิดที่มีโอกาสทางการตลาดในการเขียนซอฟต์แวร์แบบเผชิญหน้าผู้ใช้ซึ่งจะปกป้องผลประโยชน์ของผู้ใช้โดยการตีความและระบุอันตรายในโลกออนไลน์ที่ผู้ใช้กำลังนำทาง ตัวอย่างหนึ่งที่มีอยู่แล้วคือคุณลักษณะการตรวจจับการหลอกลวงของ Metamask:
อาจเป็นไปได้ว่าเครื่องมือประเภทนี้อาจอัดแน่นไปด้วย AI AI สามารถให้คำอธิบายที่เป็นมิตรต่อมนุษย์ได้ดียิ่งขึ้นว่าคุณเข้าร่วม DApp ประเภทใด ผลที่ตามมาของการดำเนินการที่ซับซ้อนมากขึ้นที่คุณกำลังลงนาม ไม่ว่าโทเค็นใด ๆ จะเป็นของแท้หรือไม่ (เช่น BITCOIN
ไม่ใช่เพียงสตริงอักขระ แต่เป็นชื่อของสกุลเงินดิจิตอลจริง ซึ่งไม่ใช่โทเค็น ERC20 และมีราคาสูงกว่า $0.045 และ LLM สมัยใหม่จะรู้เรื่องนี้) และอื่นๆ มีโครงการที่เริ่มเดินหน้าไปในทิศทางนี้ (เช่น กระเป๋าสตางค์ LangChainซึ่งใช้ AI เป็น ประถม อินเตอร์เฟซ). ความคิดเห็นของฉันคืออินเทอร์เฟซ AI ล้วนๆ อาจมีความเสี่ยงเกินไปในขณะนี้ เนื่องจากจะเพิ่มความเสี่ยง อื่น ๆ ประเภทของข้อผิดพลาดแต่ AI ที่เสริมอินเทอร์เฟซแบบเดิมๆ กำลังเริ่มมีประสิทธิภาพมากขึ้น
มีความเสี่ยงประการหนึ่งที่ควรกล่าวถึง ฉันจะอธิบายเพิ่มเติมในส่วน "AI ตามกฎของเกม" ด้านล่าง ปัญหาทั่วไปคือการเรียนรู้ของเครื่องที่ขัดแย้งกัน: หากผู้ใช้สามารถเข้าถึงผู้ช่วย AI ภายในกระเป๋าเงินโอเพ่นซอร์ส ผู้ร้ายก็จะสามารถเข้าถึงผู้ช่วย AI นั้นได้เช่นกัน ดังนั้นพวกเขาจะมีโอกาสไม่จำกัดในการเพิ่มประสิทธิภาพการหลอกลวงเพื่อไม่ให้ทริกเกอร์ การป้องกันของกระเป๋าสตางค์นั้น. AI ยุคใหม่ทั้งหมดมีข้อบกพร่องอยู่ที่ไหนสักแห่ง และไม่ยากเกินไปสำหรับกระบวนการฝึกอบรม แม้แต่จุดเดียวเท่านั้น จำกัดการเข้าถึงโมเดลเพื่อค้นหาพวกเขา
นี่คือจุดที่ “AI ที่เข้าร่วมในตลาดขนาดเล็กบนเครือข่าย” ทำงานได้ดีขึ้น: AI แต่ละตัวมีความเสี่ยงต่อความเสี่ยงเดียวกัน แต่คุณตั้งใจสร้างระบบนิเวศแบบเปิดที่มีผู้คนหลายสิบคนคอยทำซ้ำและปรับปรุงพวกเขาอย่างต่อเนื่อง นอกจากนี้ AI แต่ละตัวยังถูกปิดอีกด้วย: ความปลอดภัยของระบบมาจากการเปิดกว้างของกฎเกณฑ์ของ เกมไม่ใช่การทำงานภายในของแต่ละคน ผู้เล่น.
สรุป: AI สามารถช่วยให้ผู้ใช้เข้าใจสิ่งที่เกิดขึ้นในภาษาธรรมดา สามารถทำหน้าที่เป็นครูสอนพิเศษแบบเรียลไทม์ สามารถปกป้องผู้ใช้จากข้อผิดพลาด แต่ควรได้รับคำเตือนเมื่อพยายามใช้โดยตรงกับผู้ให้ข้อมูลผิดและผู้หลอกลวงที่เป็นอันตราย
AI เป็นกฎของเกม
ตอนนี้เรามาถึงแอปพลิเคชั่นที่ผู้คนจำนวนมากตื่นเต้น แต่ฉันคิดว่ามันมีความเสี่ยงที่สุด และจุดที่เราต้องดำเนินการอย่างระมัดระวังที่สุด: สิ่งที่ฉันเรียกว่า AI นั้นเป็นส่วนหนึ่งของกฎของเกม สิ่งนี้เชื่อมโยงกับความตื่นเต้นในหมู่ชนชั้นสูงทางการเมืองกระแสหลักเกี่ยวกับ "ผู้พิพากษา AI" (เช่น ดู บทความนี้ บนเว็บไซต์ของ “การประชุมสุดยอดรัฐบาลโลก”) และมีสิ่งที่คล้ายคลึงกันของความปรารถนาเหล่านี้ในแอปพลิเคชันบล็อกเชน หากสัญญาอัจฉริยะที่ใช้บล็อกเชนหรือ DAO จำเป็นต้องตัดสินใจแบบอัตนัย (เช่น ผลิตภัณฑ์งานเฉพาะที่ยอมรับได้ในสัญญาจ้างงานหรือไม่ ข้อใดเป็นการตีความที่ถูกต้องของรัฐธรรมนูญที่ใช้ภาษาธรรมชาติ เช่น การมองโลกในแง่ดี กฎแห่งโซ่?) คุณช่วยทำให้ AI เป็นส่วนหนึ่งของสัญญาหรือ DAO เพื่อช่วยบังคับใช้กฎเหล่านี้ได้ไหม
นี่คือที่ แมชชีนเลิร์นนิงของฝ่ายตรงข้าม จะเป็นความท้าทายที่ยากมาก อาร์กิวเมนต์สองประโยคพื้นฐานว่าทำไมจึงเป็นดังนี้:
หากโมเดล AI ที่มีบทบาทสำคัญในกลไกถูกปิด คุณจะไม่สามารถตรวจสอบการทำงานภายในของโมเดลได้ และดังนั้นจึงไม่ได้ดีไปกว่าแอปพลิเคชันแบบรวมศูนย์ หากโมเดล AI เปิดอยู่ ผู้โจมตีจะสามารถดาวน์โหลดและจำลองมันในเครื่อง และออกแบบการโจมตีที่ได้รับการปรับปรุงให้เหมาะสมที่สุดเพื่อหลอกโมเดล ซึ่งพวกเขาสามารถเล่นซ้ำบนเครือข่ายสดได้
ตอนนี้ ผู้อ่านบล็อกนี้บ่อยครั้ง (หรือผู้ที่อาศัยอยู่ใน cryptoverse) อาจจะแซงหน้าฉันไปแล้ว และกำลังคิดว่า: แต่เดี๋ยวก่อน! เรามีการพิสูจน์ความรู้ที่เป็นศูนย์และรูปแบบการเข้ารหัสที่ยอดเยี่ยมอื่นๆ แน่นอนว่าเราสามารถทำเวทมนตร์เข้ารหัสได้ และซ่อนการทำงานภายในของโมเดล เพื่อให้ผู้โจมตีไม่สามารถเพิ่มประสิทธิภาพการโจมตีได้ แต่ในขณะเดียวกัน พิสูจน์ ว่าโมเดลกำลังดำเนินการอย่างถูกต้อง และถูกสร้างขึ้นโดยใช้กระบวนการฝึกอบรมที่เหมาะสมกับชุดข้อมูลพื้นฐานที่สมเหตุสมผล!
ปกติจะเป็นแบบนี้ เผง ประเภทของความคิดที่ฉันสนับสนุนทั้งในบล็อกนี้และในงานเขียนอื่นๆ ของฉัน แต่ในกรณีของการคำนวณที่เกี่ยวข้องกับ AI มีข้อโต้แย้งที่สำคัญสองประการ:
- ค่าใช้จ่ายด้านการเข้ารหัส: การทำบางอย่างภายใน SNARK (หรือ MPC หรือ...) มีประสิทธิภาพน้อยกว่าการทำ "อย่างชัดเจน" มาก เนื่องจาก AI มีความเข้มข้นในการคำนวณมากอยู่แล้ว การทำ AI ภายในกล่องดำที่เข้ารหัสลับนั้นสามารถทำได้ด้วยการคำนวณหรือไม่
- การโจมตีการเรียนรู้ของเครื่องฝ่ายตรงข้ามกล่องดำ: มีวิธีเพิ่มประสิทธิภาพการโจมตีโมเดล AI แม้จะไม่ได้รู้อะไรมากก็ตาม เกี่ยวกับการทำงานภายในของโมเดล และถ้าคุณซ่อนตัว มากเกินไปคุณเสี่ยงที่จะทำให้ใครก็ตามที่เลือกข้อมูลการฝึกมาสร้างความเสียหายให้กับโมเดลได้ง่ายเกินไป การวางยาพิษ การโจมตี.
ทั้งสองอย่างนี้เป็นหลุมกระต่ายที่ซับซ้อน ดังนั้นเรามาดูแต่ละหลุมกันดีกว่า
ค่าใช้จ่ายด้านการเข้ารหัส
อุปกรณ์เข้ารหัสลับ โดยเฉพาะอุปกรณ์ใช้งานทั่วไป เช่น ZK-SNARK และ MPC มีค่าใช้จ่ายสูง บล็อก Ethereum ใช้เวลาสองสามร้อยมิลลิวินาทีเพื่อให้ไคลเอนต์ตรวจสอบโดยตรง แต่การสร้าง ZK-SNARK เพื่อพิสูจน์ความถูกต้องของบล็อกดังกล่าวอาจใช้เวลาหลายชั่วโมง ค่าใช้จ่ายทั่วไปของอุปกรณ์เข้ารหัสอื่น ๆ เช่น MPC อาจเลวร้ายยิ่งกว่านั้นอีก การคำนวณด้วย AI มีราคาแพงอยู่แล้ว: LLM ที่ทรงพลังที่สุดสามารถส่งออกคำแต่ละคำได้เร็วกว่าที่มนุษย์สามารถอ่านได้เพียงเล็กน้อย ไม่ต้องพูดถึงค่าใช้จ่ายในการคำนวณหลายล้านดอลลาร์ของ การอบรม โมเดล ความแตกต่างด้านคุณภาพระหว่างรุ่นท็อปและรุ่นที่พยายามประหยัดมากขึ้น ค่าฝึกอบรม or การนับพารามิเตอร์ มีขนาดใหญ่ เมื่อมองแวบแรก นี่เป็นเหตุผลที่ดีที่จะสงสัยโครงการทั้งหมดในการพยายามเพิ่มการรับประกันให้กับ AI ด้วยการรวมไว้ในการเข้ารหัส
โชคดีที่ เอไอคือก ประเภทที่เฉพาะเจาะจงมาก ของการคำนวณซึ่งทำให้คล้อยตามการปรับแต่งทุกประเภท ซึ่งการคำนวณประเภท “ไม่มีโครงสร้าง” อื่นๆ เช่น ZK-EVM ไม่สามารถได้รับประโยชน์จากมัน ให้เราตรวจสอบโครงสร้างพื้นฐานของแบบจำลอง AI:
y = max(x, 0)
). การคูณเมทริกซ์ใช้เวลาส่วนใหญ่ในลักษณะเชิงเส้นกำกับ นั่นคือการคูณสอง N*N
การฝึกอบรม ใช้เวลา �(�2.8)ในขณะที่จำนวนการดำเนินการที่ไม่ใช่เชิงเส้นจะมีน้อยกว่ามาก สิ่งนี้สะดวกมากสำหรับการเข้ารหัส เนื่องจากการเข้ารหัสหลายรูปแบบสามารถดำเนินการเชิงเส้นได้ (ซึ่งการคูณเมทริกซ์เป็นอย่างน้อยถ้าคุณเข้ารหัสโมเดล แต่ไม่ใช่อินพุต) เกือบจะ "ฟรี".
หากคุณเป็นนักเข้ารหัส คุณอาจเคยได้ยินเกี่ยวกับปรากฏการณ์ที่คล้ายกันในบริบทของ การเข้ารหัสแบบโฮโมมอร์ฟิค: กำลังแสดง เพิ่มเติม บนไซเฟอร์เท็กซ์ที่เข้ารหัสนั้นง่ายมาก แต่ การคูณ เป็นเรื่องยากอย่างไม่น่าเชื่อ และเราไม่ทราบวิธีการใด ๆ เลยที่จะทำมันได้อย่างไม่จำกัดจนถึงปี 2009
สำหรับ ZK-SNARK สิ่งที่เทียบเท่าคือ โปรโตคอลเช่นนี้ตั้งแต่ปี 2013ซึ่งแสดงก น้อยกว่า 4x ค่าใช้จ่ายในการพิสูจน์การคูณเมทริกซ์ น่าเสียดายที่ค่าใช้จ่ายในเลเยอร์ที่ไม่ใช่เชิงเส้นยังคงมีนัยสำคัญ และการใช้งานที่ดีที่สุดในการปฏิบัติจะแสดงค่าใช้จ่ายประมาณ 200x แต่ก็หวังว่าจะสามารถลดลงได้อย่างมากจากการวิจัยเพิ่มเติม ดู การนำเสนอนี้จาก Ryan Cao สำหรับแนวทางล่าสุดที่อิงตาม GKR และของตัวฉันเอง คำอธิบายอย่างง่ายเกี่ยวกับวิธีการทำงานขององค์ประกอบหลักของ GKR.
แต่สำหรับหลายๆ แอปพลิเคชัน เราไม่ได้ต้องการเพียงเท่านั้น พิสูจน์ ว่าเอาต์พุต AI ได้รับการคำนวณอย่างถูกต้อง เราก็ต้องการเช่นกัน ซ่อนโมเดล. มีแนวทางที่ไร้เดียงสาในเรื่องนี้: คุณสามารถแยกโมเดลเพื่อให้ชุดเซิร์ฟเวอร์ที่แตกต่างกันจัดเก็บแต่ละเลเยอร์ซ้ำซ้อน และหวังว่าเซิร์ฟเวอร์บางตัวที่รั่วไหลในเลเยอร์บางส่วนจะไม่ทำให้ข้อมูลรั่วไหลมากเกินไป แต่ก็มีรูปแบบที่มีประสิทธิภาพอย่างน่าประหลาดใจเช่นกัน การคำนวณแบบหลายฝ่ายโดยเฉพาะ.
ในทั้งสองกรณี คุณธรรมของเรื่องจะเหมือนกัน: ส่วนที่ยิ่งใหญ่ที่สุดของการคำนวณ AI คือการคูณเมทริกซ์ ซึ่งสามารถทำได้ มีประสิทธิภาพมาก ZK-SNARK หรือ MPC (หรือแม้แต่ FHE) ดังนั้นค่าใช้จ่ายรวมในการใส่ AI ในกล่องเข้ารหัสจึงต่ำอย่างน่าประหลาดใจ. โดยทั่วไปแล้ว ชั้นที่ไม่เป็นเชิงเส้นจะเป็นคอขวดมากที่สุดแม้จะมีขนาดที่เล็กกว่าก็ตาม อาจจะเป็นเทคนิคใหม่ๆ เช่น อาร์กิวเมนต์การค้นหา สามารถช่วย
การเรียนรู้ของเครื่องฝ่ายตรงข้ามกล่องดำ
ตอนนี้ เรามาดูปัญหาใหญ่อีกข้อหนึ่งกัน: ประเภทของการโจมตีที่คุณทำได้ แม้ เนื้อหาของโมเดลจะถูกเก็บไว้เป็นส่วนตัว และคุณมีเพียง “การเข้าถึง API” สำหรับโมเดลเท่านั้น การอ้างอิง กระดาษจาก 2016:
โมเดลแมชชีนเลิร์นนิงจำนวนมากมีความเสี่ยงต่อตัวอย่างที่ขัดแย้งกัน: อินพุตที่สร้างขึ้นเป็นพิเศษเพื่อทำให้โมเดลแมชชีนเลิร์นนิงสร้างเอาต์พุตที่ไม่ถูกต้อง ตัวอย่างฝ่ายตรงข้ามที่ส่งผลกระทบต่อโมเดลหนึ่งมักจะส่งผลต่ออีกโมเดลหนึ่ง แม้ว่าทั้งสองโมเดลจะมีสถาปัตยกรรมที่แตกต่างกันหรือได้รับการฝึกอบรมในชุดการฝึกที่แตกต่างกัน ตราบใดที่ทั้งสองโมเดลได้รับการฝึกฝนให้ทำงานเดียวกัน. ผู้โจมตีจึงอาจฝึกโมเดลทดแทนของตนเอง สร้างตัวอย่างฝ่ายตรงข้ามเพื่อต่อต้านโมเดลทดแทน และโอนโมเดลเหล่านั้นไปยังโมเดลเหยื่อ โดยมีข้อมูลน้อยมากเกี่ยวกับเหยื่อ
เป็นไปได้ว่าคุณสามารถสร้างการโจมตีโดยรู้ได้ เพียงข้อมูลการฝึกอบรมแม้ว่าคุณจะมีการเข้าถึงโมเดลที่คุณกำลังพยายามโจมตีอย่างจำกัดหรือไม่มีเลยก็ตาม ในปี 2023 การโจมตีประเภทนี้ยังคงเป็นปัญหาใหญ่ต่อไป
เพื่อลดการโจมตีกล่องดำประเภทนี้อย่างมีประสิทธิภาพ เราต้องทำสองสิ่ง:
- จริงๆ จำกัดว่าใครหรืออะไรที่สามารถสอบถามโมเดลได้ และเท่าไหร่ กล่องดำที่มีการเข้าถึง API แบบไม่จำกัดนั้นไม่ปลอดภัย กล่องดำที่มีการจำกัดการเข้าถึง API มากอาจเป็นได้
- ซ่อนข้อมูลการฝึกโดยยังคงไว้ซึ่งความมั่นใจ ว่ากระบวนการที่ใช้สร้างข้อมูลการฝึกไม่เสียหาย
โครงการที่ทำประโยชน์สูงสุดจากอดีตอาจเป็น Worldcoin ซึ่งฉันวิเคราะห์เวอร์ชันก่อนหน้า (ท่ามกลางโปรโตคอลอื่น ๆ ) ในความยาว โปรดคลิกที่นี่เพื่ออ่านรายละเอียดเพิ่มเติม. Worldcoin ใช้โมเดล AI อย่างกว้างขวางในระดับโปรโตคอล เพื่อ (i) แปลงการสแกนม่านตาเป็น “รหัสม่านตา” สั้นๆ ซึ่งสามารถเปรียบเทียบความคล้ายคลึงกันได้ง่าย และ (ii) ตรวจสอบให้แน่ใจว่าสิ่งที่สแกนนั้นคือมนุษย์จริงๆ การป้องกันหลักที่ Worldcoin พึ่งพาคือความจริงที่ว่า ไม่อนุญาตให้ใครเรียกโมเดล AI มาใช้ แต่ใช้ฮาร์ดแวร์ที่เชื่อถือได้เพื่อให้แน่ใจว่าโมเดลจะยอมรับเฉพาะอินพุตที่ลงนามแบบดิจิทัลโดยกล้องของลูกโลก.
วิธีการนี้ไม่รับประกันว่าจะได้ผล แต่ปรากฎว่าคุณสามารถโจมตีฝ่ายตรงข้ามกับ AI ไบโอเมตริกซ์ที่มาในรูปแบบของ แผ่นแปะหรือเครื่องประดับทางกายภาพที่คุณสามารถใส่บนใบหน้าได้:
แต่ความหวังก็คือถ้าคุณ รวมการป้องกันทั้งหมดเข้าด้วยกันด้วยการซ่อนโมเดล AI เอง การจำกัดจำนวนการสืบค้นอย่างมาก และกำหนดให้แต่ละการสืบค้นต้องได้รับการตรวจสอบสิทธิ์ ทำให้คุณโจมตีฝ่ายตรงข้ามได้ยากพอที่ระบบจะปลอดภัยได้
และนี่จะนำเราไปสู่ส่วนที่สอง: เราจะซ่อนข้อมูลการฝึกอบรมได้อย่างไร นี่คือที่ “DAO เพื่อควบคุม AI ตามระบอบประชาธิปไตย” อาจสมเหตุสมผลจริงๆ: เราสามารถสร้าง DAO แบบออนไลน์ที่ควบคุมกระบวนการว่าใครได้รับอนุญาตให้ส่งข้อมูลการฝึกอบรม (และต้องมีการยืนยันอะไรบ้างในข้อมูลนั้นเอง) ใครได้รับอนุญาตให้ทำการสืบค้น และจำนวนเท่าใด และใช้เทคนิคการเข้ารหัสเช่น MPC เพื่อเข้ารหัสไปป์ไลน์ทั้งหมดของการสร้างและเรียกใช้ AI จากอินพุตการฝึกอบรมของผู้ใช้แต่ละรายไปจนถึงเอาต์พุตสุดท้ายของแต่ละแบบสอบถาม DAO นี้สามารถตอบสนองวัตถุประสงค์ที่ได้รับความนิยมอย่างสูงในการชดเชยผู้คนในการส่งข้อมูลไปพร้อมๆ กัน
- ค่าใช้จ่ายด้านการเข้ารหัสอาจสูงเกินไป เพื่อให้สถาปัตยกรรมกล่องดำเต็มรูปแบบประเภทนี้สามารถแข่งขันกับแนวทาง "เชื่อใจฉัน" แบบปิดแบบดั้งเดิมได้
- มันอาจจะกลายเป็นอย่างนั้น ไม่มีวิธีที่ดีในการทำให้กระบวนการส่งข้อมูลการฝึกอบรมมีการกระจายอำนาจ และ การป้องกัน ต่อต้านการโจมตีด้วยพิษ
- แกดเจ็ตการคำนวณหลายฝ่ายอาจเสียหายได้ รับประกันความปลอดภัยหรือความเป็นส่วนตัวเนื่องจาก ผู้เข้าร่วมสมรู้ร่วมคิด: ท้ายที่สุดแล้ว สิ่งนี้เกิดขึ้นกับสะพานสกุลเงินดิจิทัลแบบข้ามสายโซ่ อีกครั้ง และ อีกครั้ง.
เหตุผลหนึ่งที่ฉันไม่เริ่มส่วนนี้ด้วยป้ายคำเตือนสีแดงขนาดใหญ่ที่ระบุว่า "อย่าทำ AI JUDGES นั่นเป็น DYSTOPIAN" ก็คือสังคมของเราขึ้นอยู่กับผู้ตัดสิน AI ที่รวมศูนย์ซึ่งไม่มีความรับผิดชอบอยู่แล้ว: อัลกอริธึมที่กำหนดประเภทของ โพสต์และความคิดเห็นทางการเมืองได้รับการส่งเสริมและลดการสนับสนุน หรือแม้แต่เซ็นเซอร์บนโซเชียลมีเดีย ฉันคิดว่าการขยายแนวโน้มนี้ ต่อไป ในขั้นตอนนี้ถือเป็นความคิดที่ไม่ดีนัก แต่ผมไม่คิดว่าจะมีโอกาสมากขนาดนั้น ชุมชน blockchain ทดลองกับ AI มากขึ้น จะเป็นสิ่งที่มีส่วนทำให้แย่ลง
ในความเป็นจริง มีวิธีพื้นฐานที่ค่อนข้างมีความเสี่ยงต่ำที่เทคโนโลยี crypto สามารถทำให้แม้แต่ระบบรวมศูนย์ที่มีอยู่เหล่านี้ดีขึ้น ซึ่งฉันค่อนข้างมั่นใจ เทคนิคง่ายๆ อย่างหนึ่งคือ ตรวจสอบ AI ด้วยการเผยแพร่ล่าช้า: เมื่อไซต์โซเชียลมีเดียทำการจัดอันดับโพสต์โดยใช้ AI ก็สามารถเผยแพร่ ZK-SNARK เพื่อพิสูจน์แฮชของโมเดลที่สร้างการจัดอันดับนั้น เว็บไซต์สามารถมุ่งมั่นที่จะเปิดเผยโมเดล AI ของตนหลังจากเช่น ล่าช้าหนึ่งปี เมื่อโมเดลถูกเปิดเผย ผู้ใช้สามารถตรวจสอบแฮชเพื่อยืนยันว่าโมเดลที่ถูกต้องได้รับการเผยแพร่ และชุมชนสามารถทำการทดสอบโมเดลเพื่อตรวจสอบความเป็นธรรมได้ ความล่าช้าในการเผยแพร่จะทำให้แน่ใจได้ว่าเมื่อถึงเวลาที่มีการเปิดเผยโมเดล โมเดลนั้นจะล้าสมัยไปแล้ว
ดังนั้นเมื่อเปรียบเทียบกับ ส่วนกลาง โลก คำถามไม่ใช่ if เราสามารถทำได้ดีกว่า แต่ เท่าไหร่. สำหรับ โลกที่กระจายอำนาจอย่างไรก็ตาม สิ่งสำคัญคือต้องระวัง: ถ้ามีคนสร้างเช่น ตลาดทำนายหรือเหรียญเสถียรที่ใช้ AI oracle และปรากฎว่า oracle สามารถโจมตีได้ นั่นเป็นเงินจำนวนมหาศาลที่อาจหายไปในทันที.
AI เป็นเป้าหมายของเกม
หากเทคนิคข้างต้นสำหรับการสร้าง AI ส่วนตัวแบบกระจายอำนาจที่ปรับขนาดได้ ซึ่งมีเนื้อหาอยู่ในกล่องดำที่ไม่มีใครรู้จักนั้นสามารถใช้งานได้จริง ก็สามารถนำมาใช้เพื่อสร้าง AI ที่มีประโยชน์มากกว่าบล็อกเชนได้ ทีมงานโปรโตคอล NEAR กำลังดำเนินการนี้ วัตถุประสงค์หลักของการทำงานที่กำลังดำเนินอยู่.
มีเหตุผลสองประการในการทำเช่นนี้:
- ถ้าคุณ สามารถ ทำ "AI กล่องดำที่น่าเชื่อถือ” ด้วยการดำเนินกระบวนการฝึกอบรมและการอนุมานโดยใช้การผสมผสานระหว่างบล็อคเชนและ MPC ดังนั้นแอปพลิเคชันจำนวนมากที่ผู้ใช้กังวลเกี่ยวกับระบบที่ลำเอียงหรือการโกงพวกเขาจะได้รับประโยชน์จากมัน หลายๆคนได้แสดงความปรารถนาที่จะ การปกครองระบอบประชาธิปไตย ของ AI ที่มีความสำคัญอย่างเป็นระบบ ที่เราจะต้องพึ่งพา เทคนิคการเข้ารหัสและบล็อกเชนอาจเป็นหนทางสู่การทำเช่นนั้น
- จาก a ความปลอดภัยของ AI มุมมอง นี่จะเป็นเทคนิคในการสร้าง AI แบบกระจายอำนาจซึ่งมี kill switch ตามธรรมชาติ และอาจจำกัดการค้นหาที่ต้องการใช้ AI สำหรับพฤติกรรมที่เป็นอันตราย
นอกจากนี้ยังเป็นที่น่าสังเกตว่า “การใช้สิ่งจูงใจ crypto เพื่อจูงใจในการสร้าง AI ที่ดีขึ้น” สามารถทำได้โดยไม่ต้องลงหลุมกระต่ายเต็มรูปแบบของการใช้การเข้ารหัสเพื่อเข้ารหัสอย่างสมบูรณ์: วิธีการเช่น บิตเทนเซอร์ อยู่ในหมวดหมู่นี้
สรุป
ขณะนี้ทั้งบล็อคเชนและ AI มีประสิทธิภาพมากขึ้น จึงมีกรณีการใช้งานจำนวนมากขึ้นในบริเวณที่ทั้งสองพื้นที่มาบรรจบกัน อย่างไรก็ตาม กรณีการใช้งานเหล่านี้บางกรณีก็สมเหตุสมผลมากกว่าและมีประสิทธิภาพมากกว่ากรณีอื่นๆ มาก โดยทั่วไป กรณีการใช้งานที่กลไกพื้นฐานยังคงได้รับการออกแบบอย่างคร่าว ๆ เหมือนเมื่อก่อน แต่เป็นรายบุคคล ผู้เล่น กลายเป็น AI ซึ่งช่วยให้กลไกทำงานได้อย่างมีประสิทธิภาพในระดับจุลภาคที่มากขึ้น ถือเป็นสิ่งที่มีแนวโน้มมากที่สุดในทันทีและง่ายที่สุดในการทำให้ถูกต้อง
สิ่งที่ท้าทายที่สุดในการทำให้ถูกต้องคือแอปพลิเคชันที่พยายามใช้บล็อกเชนและเทคนิคการเข้ารหัสเพื่อสร้าง "singleton": AI ที่เชื่อถือได้แบบกระจายอำนาจเพียงตัวเดียว ซึ่งบางแอปพลิเคชันจะต้องพึ่งพาเพื่อวัตถุประสงค์บางอย่าง แอปพลิเคชันเหล่านี้มีแนวโน้มทั้งในด้านฟังก์ชันการทำงานและการปรับปรุงความปลอดภัยของ AI ในลักษณะที่หลีกเลี่ยงความเสี่ยงจากการรวมศูนย์ที่เกี่ยวข้องกับแนวทางกระแสหลักในการแก้ไขปัญหานั้น แต่ก็มีหลายวิธีเช่นกันที่สมมติฐานพื้นฐานอาจล้มเหลว ดังนั้นจึงควรดำเนินการอย่างระมัดระวัง โดยเฉพาะอย่างยิ่งเมื่อปรับใช้แอปพลิเคชันเหล่านี้ในบริบทที่มีมูลค่าสูงและมีความเสี่ยงสูง
ฉันหวังว่าจะได้เห็นความพยายามมากขึ้นในการใช้ AI อย่างสร้างสรรค์ในทุกด้านเหล่านี้ เพื่อให้เราเห็นว่ากรณีใดที่สามารถใช้งานได้จริงในวงกว้าง
เขียนโดย: Vitalik Buterin
- เนื้อหาที่ขับเคลื่อนด้วย SEO และการเผยแพร่ประชาสัมพันธ์ รับการขยายวันนี้
- PlatoData.Network Vertical Generative Ai เพิ่มพลังให้กับตัวเอง เข้าถึงได้ที่นี่.
- เพลโตไอสตรีม. Web3 อัจฉริยะ ขยายความรู้ เข้าถึงได้ที่นี่.
- เพลโตESG. คาร์บอน, คลีนเทค, พลังงาน, สิ่งแวดล้อม แสงอาทิตย์, การจัดการของเสีย. เข้าถึงได้ที่นี่.
- เพลโตสุขภาพ เทคโนโลยีชีวภาพและข่าวกรองการทดลองทางคลินิก เข้าถึงได้ที่นี่.
- BlockOffsets การปรับปรุงการเป็นเจ้าของออฟเซ็ตด้านสิ่งแวดล้อมให้ทันสมัย เข้าถึงได้ที่นี่.
- ที่มา: เพลโต ดาต้า อินเทลลิเจนซ์