CCC đã hỗ trợ ba phiên khoa học tại Hội nghị thường niên AAAS năm nay và trong trường hợp bạn không thể tham dự trực tiếp, chúng tôi sẽ tóm tắt lại từng phiên. Hôm nay, chúng tôi sẽ tóm tắt những điểm nổi bật của phần Hỏi đáp của phiên họp, “Mô hình ngôn ngữ lớn: Trợ lý hữu ích, Đối tác lãng mạn hay Kẻ lừa đảo?” Bảng điều khiển này, được kiểm duyệt bởi Tiến sĩ Maria Gini, Thành viên Hội đồng CCC và giáo sư Khoa học & Kỹ thuật Máy tính tại Đại học Minnesota, đã trình bày Tiến sĩ Ece Kamar, Giám đốc điều hành AI Frontiers tại Microsoft Research, Tiến sĩ Hal Daumé III, giáo sư Khoa học Máy tính tại Đại học Maryland, và Tiến sĩ Jonathan May, Giáo sư Khoa học Máy tính tại Viện Khoa học Thông tin Đại học Nam California.
Dưới đây là bản tóm tắt hấp dẫn của phần Hỏi đáp của "Mô hình ngôn ngữ lớn: Trợ lý hữu ích, Đối tác lãng mạn hay Kẻ lừa đảo?"bảng điều khiển. AI có khả năng yêu không? Những mô hình này có thể có những tác động gì đối với trẻ em? Khả năng AI của Hoa Kỳ tăng lên như thế nào? Tìm hiểu dưới đây:
Hỏi: Khi triển khai các mô hình ngôn ngữ AI trong bối cảnh đa ngôn ngữ, đa văn hóa, chúng ta nên thực hiện những gì?
Tiến sĩ May: Trong việc phát triển công nghệ và hạ thấp những bức tường, cần tạo điều kiện thuận lợi hơn cho người dân làm những gì mình muốn. Điều mà mọi người đều muốn làm chứ không chỉ mình tôi. Cảm ơn AI, thật tuyệt khi tập trung vào tôi, nhưng chúng ta nên chú ý đến phần còn lại của thế giới nói chung.
Hỏi: Một số vấn đề chung này – đây không phải là lần đầu tiên chúng được đưa ra. Có vẻ như cộng đồng sẽ không tự mình giải quyết những vấn đề này. Tôi tự hỏi liệu tất cả các bạn có ý tưởng nào về cách biến những cuộc trò chuyện này thành hành động không?
Tiến sĩ Kamar: Có nhiều vai trò dành cho nhiều bên khác nhau. Đánh giá rất quan trọng trong việc đại diện cho các nền văn hóa và dân số khác nhau. Khi các tập dữ liệu không có tính đa dạng trong cách thể hiện thế giới, thì hệ thống thu được sẽ không mang tính đại diện. Rất nhiều công việc cần phải được thực hiện trong việc hình thành các phương pháp đánh giá, quy định và biện pháp tuân thủ tốt nhất. Nhà Trắng đã đưa ra các cam kết và Kế hoạch chi tiết về Tuyên ngôn về Quyền của AI đang bắt đầu. Đã có những quy trình được triển khai trên toàn ngành, với nhiều bộ óc vĩ đại làm việc cùng nhau (không hoàn hảo, nhưng có tiềm năng khái quát hóa trong toàn ngành). Có những cuộc họp diễn ra để đạt được sự hội tụ về việc bắt đầu theo tiêu chuẩn hiện tại; có thể trong quy định trong tương lai. Chúng tôi thực hiện đánh giá, phân tích an toàn, v.v. bằng cách nào? Không có cuộc trò chuyện nào trong số này có được sự đa dạng cần có trong phòng. Hãy suy nghĩ xem ai cần có mặt trong phòng khi các quyết định được đưa ra.
Tiến sĩ Daumé: Tôi nghĩ khi mọi người nói về quy định, đặc biệt là trong AI, mọi người đều nghĩ đến các quy định mang tính trừng phạt. Nhưng điều này cũng có thể khuyến khích các quy định. Việc tài trợ cho các nhà hoạch định chính sách và NSF có thể thúc đẩy việc phát triển các công cụ giúp ích cho chúng ta với tư cách là một quốc gia và thế giới.
Hỏi: Nguồn tài trợ cho AI ở Mỹ chậm hơn nhiều so với các nơi khác trên thế giới. Khoản đầu tư mới của NSF là khoảng 20 triệu USD, chỉ là con số nhỏ so với đầu tư trong ngành. Chính phủ liên bang đã công bố các báo cáo từ các nghiên cứu trong nhiều năm và kết luận là Hoa Kỳ phải tiếp tục. Tôi thích sự tương tự thay đổi pha của Ece. Giới hạn nhiệt động với các con số ngày càng tăng. Chúng ta muốn AI mở, ai sẽ trả tiền cho nó? Không có đủ tiền. Đề xuất của bạn là gì? AI mở? Nhưng chúng tôi thậm chí còn không có quyền xuất bản truy cập mở. Bạn có đề nghị với tổng thống không có luật không?
Tiến sĩ May: Tôi nghĩ là có tiền; có người nhận xét với tôi rằng bạn đã thuyết phục được chính phủ quay các hạt xung quanh, nhưng lại không thể chuyển nó sang cho chúng tôi.
Tiến sĩ Kamar: Lý do khiến các công ty đang xây dựng những mô hình này đạt được những kết quả đầu ra này là thông qua việc tập trung hóa các nguồn lực. Có rất nhiều thứ bạn nhận được từ quy mô. Nên nghĩ về cách chúng ta tập trung đầu tư vào học viện để có được nguồn lực chung thay vì có nhiều mô hình khác nhau. Chúng tôi đang thấy nó không chỉ là về quy mô. Đây không phải là điều chúng ta phải làm ngay bây giờ, nhưng kiến trúc hiện tại chưa tốt. Có khả năng AI tốt không chỉ cần có nhiều tiền hơn và nhiều quyền lực hơn.
Q: Sự thiên vị quá mức trong các câu trả lời. Chúng ta có biết nó đến từ đâu không? Tôi là một người giỏi toán, và suy nghĩ của tôi hướng đến đó là sự kết hợp của các lỗi làm tròn đang làm tăng thêm độ lệch? Nếu biểu diễn bằng nhau, tôi tưởng tượng nó sẽ tạo ra biểu diễn bằng nhau, hay nó vẫn ở đó?
Tiến sĩ May: Rất nhiều điều liên quan đến chức năng đạp xe. Tối đa mềm là một phần quan trọng của đào tạo. Cao nhất muốn là số 1. Không phải là có một số ngôn ngữ đầu ra hoàn hảo, nhưng chúng tôi muốn có một số thành kiến'. Chúng tôi chỉ muốn giảm thiểu tác hại đối với mọi người và rất nhiều khi chúng tôi không nhận ra những điều này. Triển khai mà không hiểu thì có vấn đề.
Tiến sĩ Daumé: Một trong những thách thức với những mô hình này là không còn những mô hình AI hẹp nữa. Họ nói họ có thể làm bất cứ điều gì nên rất khó để kiểm tra mọi thứ.
Hỏi: Bạn đã đề cập đến việc AI là một công cụ hoặc một sự thay thế, bạn thấy nó sẽ đi theo hướng nào?
Tiến sĩ Daumé: Sẽ có nhiều tiền hơn để thay thế.
Q: Tiêu đề đề cập đến AI lãng mạn. Tôi muốn biết thêm về điều đó.
Tiến sĩ May: Người mẫu không có đủ mục đích để trở thành những người thay thế lãng mạn khả thi, nhưng họ cũng giỏi như con người trong việc nhận ra các khuôn mẫu ngay cả khi chúng không tồn tại.
Tiến sĩ Kamar: Tôi khuyên bạn không nên nghĩ về AI như hiện tại. Hãy cố gắng hướng tới tương lai – hãy tưởng tượng rằng trong một vài năm nữa, những hệ thống này sẽ được cá nhân hóa cho bạn. Mối quan hệ bạn sẽ có với hệ thống đó là gì?
Tiến sĩ May: Nhưng liệu nó có yêu bạn không?
Tiến sĩ Kamar: Nó sẽ cho bạn biết nó yêu bạn.
Tiến sĩ May: Nhưng như vậy đã đủ chưa?
Hỏi: Tôi muốn nghe lời khuyên dành cho những người không làm trong lĩnh vực AI. Làm thế nào chúng ta có thể tương tác với những công cụ này? Chúng ta nên biết gì?
Tiến sĩ Daumé: Tại Đại học Maryland, chúng tôi thường xuyên tổ chức những cuộc trò chuyện như vậy. Tôi dễ dàng nói rằng báo chí sẽ khác sau 5 năm nữa, và các lĩnh vực khác cũng vậy. Thật khó chịu khi nói rằng vai trò của giáo sư sẽ khác sau 5 năm nữa, nhưng nó sẽ như vậy. Tôi có các đồng nghiệp sử dụng các phần bổ trợ LLM khác nhau cho các đề xuất và bài viết; nó đã xảy ra rồi. Mình thường xuyên có đề thi viết bằng công cụ nhưng phải kiểm tra lại cho chính xác. Viết câu hỏi thi không mang lại cho tôi niềm vui, vì vậy AI có thể giúp tôi giải quyết vấn đề đó. Trong giáo dục đại học, chúng ta phải suy nghĩ về nó nhiều hơn. Nó đang biến đổi công việc của chúng ta như thế nào? Có rất nhiều cuộc thảo luận đang diễn ra tại các trường đại học, nhưng không có nhiều nguồn lực tổng hợp.
Hỏi: AI được đánh giá như thế nào trong tương lai khi xem xét các ứng dụng quân sự? Không có đề cập nào đến các ứng dụng quân sự trong phiên họp này - tôi biết nếu tôi đọc đúng nửa chừng thì sẽ có sự khác biệt về quan điểm về chủ đề đó.
Tiến sĩ May: Quân đội rất rộng, rất nhiều công việc của tôi được bộ quốc phòng tài trợ. Khó trả lời cụ thể, nhìn chung bộ quốc phòng (không nói thay họ) dường như đang ưu tiên sự an toàn và an ninh của Hoa Kỳ, và sẽ tiếp tục làm điều đó, đồng thời tận dụng LLM và AI để giúp Hoa Kỳ được an toàn.
Tiến sĩ Kamar: Chúng ta cũng cần nói về công dụng kép. Nếu bạn đảm nhận công việc quân sự đang diễn ra trong lĩnh vực sinh học hoặc an ninh mạng, chúng ta có thể sử dụng những công cụ rất hứa hẹn hiện có và sử dụng chúng vì chúng ta muốn có hệ thống an toàn và các loại thuốc mới. Nhưng với mỗi cách sử dụng tốt, bạn sẽ có một cách sử dụng xấu. Những trường hợp sử dụng nào chúng ta không muốn sử dụng AI? Trong các ứng dụng nguồn mở, mọi người có thể sao chép các mô hình này. Làm thế nào để chúng ta ngăn chặn mọi người làm hại trong những trường hợp này?
Hỏi: Khi tương tác với các mô hình ngôn ngữ, người lớn hiểu rằng nó không tồn tại/tự nhận thức, nhưng còn vài thế hệ sau thì sao; những đứa trẻ đã có nó kể từ khi chúng nhớ việc giao tiếp xã hội? Họ có gia sư hoặc giáo viên hoàn toàn là AI; hệ thống được nhúng với một người hướng dẫn. Họ có thể tạo ra mối liên kết với hướng dẫn, nghĩ rằng họ có mối quan hệ tuyệt vời và sau đó chương trình sẽ bị xóa. Tâm lý trẻ em về mối quan hệ tình cảm xã hội với các thực thể không phải con người là gì?
Tiến sĩ Kamar: Chúng ta cần nghiên cứu, nghiên cứu liên ngành và chúng ta cần nó một cách nhanh chóng. Trong 5 năm nữa, chúng ta có thể nhận được những câu trả lời này, nhưng trong thời gian đó AI có thể trở thành một phần quan trọng trong cuộc sống của đứa trẻ 10 tuổi của tôi. Câu hỏi của bạn cực kỳ quan trọng. Có nghiên cứu cho thấy ngay cả những hệ thống vô tội cũng có thể có cửa hậu. Chúng ta cần có các chuyên gia bảo mật và chuyên gia phát triển trẻ em thực hiện những cuộc trò chuyện đó ngay hôm nay.
Tiến sĩ Daumé: Tôi không biết có ai còn nhớ việc giám sát Barbie không–ở đây có một vấn đề lớn về quyền riêng tư. Đó là một vấn đề xã hội thú vị hơn. Các phản hồi đã được điều chỉnh để trở nên quá tích cực. Trẻ em sẽ nói những điều như tôi tức giận vì Sally không chơi với tôi và điều đó không đưa ra những gợi ý phù hợp về mặt xã hội. Tôi lo lắng về những tác nhân rất tích cực, bởi vì sự tích cực không phải lúc nào cũng là câu trả lời đúng.
Cảm ơn bạn rất nhiều vì đã đọc và hãy theo dõi phần tóm tắt của phần thứ ba và cũng là phần cuối cùng của chúng tôi tại AAAS 2024.
- Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
- PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
- PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
- Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
- PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
- nguồn: https://feeds.feedblitz.com/~/874544948/0/cccblog~CCC-AAAS-Large-Language-Models-Helpful-Assistants-Romantic-Partners-or-Con-Artists-Part-Two/
- : có
- :là
- :không phải
- :Ở đâu
- $ LÊN
- 10
- 2024
- 7
- a
- Có khả năng
- Giới thiệu
- về nó
- Học viện
- truy cập
- chính xác
- ngang qua
- Hoạt động
- thêm
- người lớn
- tư vấn
- tư vấn cho
- đại lý
- AI
- Mô hình AI
- Tất cả
- Đã
- Ngoài ra
- luôn luôn
- am
- an
- phân tích
- và
- hàng năm
- trả lời
- câu trả lời
- nữa không
- bất kỳ ai
- bất cứ điều gì
- xuất hiện
- các ứng dụng
- thích hợp
- kiến trúc
- LÀ
- xung quanh
- Nghệ sĩ
- AS
- trợ lý
- At
- hy vọng
- sự chú ý
- nhận thức
- Backdoors
- Bad
- BE
- bởi vì
- trở nên
- được
- sau
- được
- phía dưới
- BEST
- thực hành tốt nhất
- thiên vị
- lớn
- Hóa đơn
- sinh học
- Blog
- kế hoạch chi tiết
- trái phiếu
- Trái phiếu
- mang lại
- rộng
- Mang lại
- Xây dựng
- nhưng
- by
- california
- CAN
- khả năng
- có khả năng
- trường hợp
- trường hợp
- ccc
- Blog CCC
- Hội đồng CCC
- Tập trung
- tập trung
- thách thức
- thay đổi
- kiểm tra
- trẻ em
- Trẻ em
- đồng nghiệp
- Đến
- đến
- đến
- cam kết
- cộng đồng
- Các công ty
- so
- tuân thủ
- các biện pháp tuân thủ
- máy tính
- Khoa học Máy tính
- phần kết luận
- Hội nghị
- xem xét
- bối cảnh
- tiếp tục
- Hội tụ
- cuộc hội thoại
- thuyết phục
- đúng
- có thể
- hội đồng
- tạo
- các nền văn hóa
- Current
- Hiện nay
- An ninh mạng
- dữ liệu
- bộ dữ liệu
- quyết định
- Phòng thủ
- bộ
- triển khai
- triển khai
- phát triển
- Phát triển
- khác nhau
- Giám đốc
- thảo luận
- Divergence
- SỰ ĐA DẠNG
- chuyển hướng
- do
- làm
- Không
- làm
- thực hiện
- dont
- xuống
- Thuốc
- hai
- mỗi
- dễ dàng hơn
- dễ dàng
- Đào tạo
- nhúng
- thuê
- Kỹ Sư
- đủ
- đủ tiền
- thực thể
- như nhau
- lỗi
- đặc biệt
- vv
- đánh giá
- đánh giá
- Ngay cả
- Mỗi
- mọi người
- tất cả mọi thứ
- kỳ thi
- tồn tại
- các chuyên gia
- cực kỳ
- hấp dẫn
- đặc sắc
- Liên bang
- Chính quyền liên bang
- vài
- lĩnh vực
- Lĩnh vực
- cuối cùng
- Tìm kiếm
- Tên
- lần đầu tiên
- Tập trung
- Trong
- từ
- Biên giới
- đầy đủ
- chức năng
- tài trợ
- tương lai
- Tổng Quát
- các thế hệ
- được
- được
- nhận được
- Cho
- Go
- đi
- tốt
- Chính phủ
- tuyệt vời
- ý nghĩ tuyệt vời
- Phát triển
- Guy
- có
- nửa chừng
- Xảy ra
- Cứng
- làm hại
- Có
- có
- Nghe
- giúp đỡ
- hữu ích
- tại đây
- cao hơn
- Giáo dục đại học
- cao nhất
- nổi bật
- House
- Độ đáng tin của
- Hướng dẫn
- HTTPS
- Con người
- i
- ý tưởng
- if
- hình ảnh
- Tác động
- thực hiện
- quan trọng
- in
- khuyến khích
- ngành công nghiệp
- thông tin
- ngây thơ
- thay vì
- Viện
- ý định
- tương tác
- thú vị
- trong
- đầu tư
- Đầu Tư
- vấn đề
- các vấn đề
- IT
- việc làm
- jonathan
- báo chí
- niềm vui
- đánh giá
- chỉ
- Giữ
- trẻ em
- các loại
- Biết
- Ngôn ngữ
- một lát sau
- Pháp luật
- Tỉ lệ đòn bẩy
- Cuộc sống
- Lượt thích
- LIMIT
- LLM
- Rất nhiều
- rất nhiều
- yêu
- yêu
- Hạ
- thực hiện
- Các nhà sản xuất
- quản lý
- quản lý
- Giám đốc điều hành
- nhiều
- maria
- Maryland
- toán học
- Vấn đề
- tối đa
- Có thể..
- me
- các biện pháp
- các cuộc họp
- hội viên
- đề cập đến
- đề cập
- microsoft
- Might
- Quân đội
- Ứng dụng quân sự
- tâm trí
- giảm thiểu
- mô hình
- tiền
- chi tiết
- di chuyển
- nhiều
- đa văn hóa
- my
- hẹp
- quốc gia
- Cần
- nhu cầu
- Mới
- đầu tư mới
- Không
- Không áp dụng
- tại
- NSF
- số
- of
- off
- Xưa
- on
- ONE
- có thể
- mở
- mã nguồn mở
- Ý kiến
- or
- Nền tảng khác
- vfoXNUMXfipXNUMXhfpiXNUMXufhpiXNUMXuf
- ra
- đầu ra
- kết quả đầu ra
- bảng điều khiển
- giấy tờ
- một phần
- các bên tham gia
- Đối tác
- mô hình
- Trả
- người
- hoàn hảo
- người
- Cá nhân
- giai đoạn
- Nơi
- plato
- Thông tin dữ liệu Plato
- PlatoDữ liệu
- Play
- điều luật
- Các nhà hoạch định chính sách
- gộp
- dân số
- phần
- tích cực
- Tính tích cực
- có thể
- tiềm năng
- quyền lực
- thực hành
- Chủ tịch
- ưu tiên
- riêng tư
- Vấn đề
- Quy trình
- Giáo sư
- chương trình
- dự án
- hứa hẹn
- thúc đẩy
- Đề xuất
- Tâm lý học
- Xuất bản
- Q & A
- câu hỏi
- Câu hỏi
- Mau
- hơn
- Đọc
- Reading
- lý do
- tóm tắt
- công nhận
- giới thiệu
- thường xuyên
- Quy định
- quy định
- mối quan hệ
- phát hành
- nhớ
- thay thế
- Báo cáo
- đại diện
- đại diện
- đại diện
- nghiên cứu
- tài nguyên
- Thông tin
- phản ứng
- REST của
- kết quả
- ngay
- quyền
- Vai trò
- vai trò
- Phòng
- làm tròn
- an toàn
- Sự An Toàn
- An toàn và an ninh
- nói
- Quy mô
- Khoa học
- KHOA HỌC
- khoa học
- an toàn
- an ninh
- xem
- nhìn thấy
- dường như
- Phiên
- phiên
- bộ
- một số
- chia sẻ
- nên
- hiển thị
- kể từ khi
- So
- Mạng xã hội
- giao lưu
- xã hội
- Mềm mại
- một số
- Một người nào đó
- một cái gì đó
- nguồn
- Miền Nam
- nói
- chuyên gia
- đặc biệt
- Quay
- Được tài trợ
- ngăn xếp
- tiêu chuẩn
- Bắt đầu
- ở lại
- Vẫn còn
- nghiên cứu
- tóm tắt
- TÓM TẮT
- Hỗ trợ
- giám sát
- hệ thống
- hệ thống
- Hãy
- Thảo luận
- Công nghệ
- nói
- thử nghiệm
- hơn
- Cảm ơn
- việc này
- Sản phẩm
- Tương lai
- thế giới
- Them
- tự
- sau đó
- Đó
- Kia là
- họ
- điều
- nghĩ
- nghĩ
- Thứ ba
- điều này
- những
- số ba
- Thông qua
- thời gian
- thời gian
- Yêu sách
- đến
- bây giờ
- bên nhau
- tấn
- quá
- công cụ
- công cụ
- chủ đề
- đối với
- Hội thảo
- biến đổi
- thử
- điều chỉnh
- hai
- hiểu
- sự hiểu biết
- Kỳ
- Các trường Đại học
- trường đại học
- us
- sử dụng
- đã sử dụng
- rất
- khả thi
- muốn
- muốn
- Đường..
- we
- chào mừng
- là
- Điều gì
- Là gì
- khi nào
- cái nào
- trắng
- Nhà Trắng
- CHÚNG TÔI LÀ
- sẽ
- với
- không có
- tự hỏi
- Công việc
- đang làm việc
- thế giới
- lo lắng
- sẽ
- viết
- viết
- năm
- năm
- Bạn
- trên màn hình
- zephyrnet