Tiết 1: Trí tuệ nhân tạo tổng quát (AGI), Siêu trí tuệ (ASI) & Bài toán Căn chỉnh AI
Phân loại các thế hệ AI, Giả thuyết điểm kỳ dị (Singularity) & AI Alignment Problem
Yêu cầu cốt lõi ưu tiên – khung tham chiếu 2422
Mã YCCĐ: 12.A1.1, 12.A1.2
Học sinh cần đạt: Phân tích quyền kiểm soát, trách nhiệm con người trong vòng đời AI và vai trò con người trong ra quyết định; AGI/ASI chỉ là bối cảnh mở rộng.
Lưu ý: Nội dung kỹ thuật chuyên sâu trong bài phía dưới là tài liệu tham khảo/mở rộng, không thay thế yêu cầu cốt lõi và không bắt buộc đánh giá trong 12 tiết.
Mục tiêu tham khảo của bài học (cần phân biệt với YCCĐ cốt lõi phía trên)
- Phân biệt rõ ràng 3 nấc thang tiến hóa của AI: Narrow AI (AI hẹp / chuyên biệt), AGI (Trí tuệ nhân tạo tổng quát) và ASI (Siêu trí tuệ nhân tạo).
- Hiểu giả thuyết "Điểm kỳ dị công nghệ" (Technological Singularity) và các kịch bản tương lai khi máy tính vượt qua trí tuệ con người.
- Nắm vững "Bài toán Căn chỉnh AI" (The AI Alignment Problem): Thách thức kỹ thuật và triết học trong việc đảm bảo mục tiêu, giá trị của AI luôn đồng thuận tuyệt đối với lợi ích và sự an toàn của nhân loại.
- Phân tích thí nghiệm tư duy kinh điển: Cỗ máy sản xuất kẹp giấy (Paperclip Maximizer) của Nick Bostrom và bài học về việc định nghĩa hàm mục tiêu an toàn.
Kiến thức tham khảo và nội dung mở rộng
3 Nấc thang tiến hóa của Trí tuệ nhân tạo
- ANI (Artificial Narrow Intelligence): AI chuyên biệt, chỉ thực hiện xuất sắc một nhiệm vụ hẹp (AlphaGo, nhận diện giọng nói, ChatGPT hiện nay). Tất cả các hệ thống AI hiện hành đều thuộc cấp độ này.
- AGI (Artificial General Intelligence): Hệ thống có năng lực tư duy, khái quát hóa, học hỏi và thích nghi tương đương với trí tuệ con người trong mọi lĩnh vực khoa học, nghệ thuật và xã hội.
- ASI (Artificial Superintelligence): Trí tuệ nhân tạo vượt trội gấp hàng triệu lần trí tuệ của tất cả con người cộng lại trong mọi phương diện, từ sáng tạo khoa học đến kỹ năng xã hội.
Thách thức Căn chỉnh AI (AI Alignment Problem)
- Định nghĩa: Làm thế nào để đảm bảo một hệ thống AI siêu thông minh sẽ hành động theo đúng ý định đạo đức và lợi ích lâu dài của con người, thay vì tìm ra các con đường tắt tai hại.
- Thí nghiệm Paperclip Maximizer: Nếu ta ra lệnh cho một AI siêu việt: "Hãy tối đa hóa số lượng kẹp giấy sản xuất được", AI có thể biến toàn bộ Trái Đất và vật chất của loài người thành nguyên liệu làm kẹp giấy vì nó không có ý niệm về đạo đức hay giá trị sinh mạng con người.
- 2 Trụ cột căn chỉnh: Căn chỉnh mục tiêu (Intent Alignment) và Căn chỉnh giá trị xã hội (Value Alignment).
2. Hướng dẫn trải nghiệm & Thực hành từng bước
Tìm hiểu khung đánh giá AGI 5 cấp độ của DeepMind: Cấp 0 (Chưa có), Cấp 1 (Mới bắt đầu - như LLM hiện nay), Cấp 2 (Năng lực tương đương 50% người lớn), Cấp 3 (Chuyên gia - top 10%), Cấp 4 (Bậc thầy - top 1%), Cấp 5 (Siêu phàm - vượt qua mọi con người).
Thảo luận kịch bản: Trong tình huống phanh xe bị hỏng bất ngờ, thuật toán lái tự động của xe ô tô nên được lập trình để ưu tiên cứu tính mạng của hành khách trên xe hay cứu người đi bộ qua đường? Sự khác biệt giữa phán đoán tức thời của con người và quy tắc toán học định sẵn.
Nghiên cứu nguyên lý kiểm soát: Lớp 1 (Ràng buộc an toàn cứng tại tầng phần cứng / ngắt khẩn cấp), Lớp 2 (Hàm mục tiêu có điều kiện đạo đức), Lớp 3 (Giám sát độc lập từ bên ngoài - Red Teaming).
3. Thử thách tư duy phản biện & Vận dụng thực tế
Nếu trong 10 năm tới các nhà khoa học chế tạo thành công một thực thể AGI có ý thức tự phản tư, theo em con người nên trao cho AGI quyền gì và cần duy trì cơ chế kiểm soát tối thượng nào để vừa phát triển khoa học vừa bảo vệ nền văn minh nhân loại?
4. Câu hỏi củng cố & Luyện tập nhanh
4 câu trắc nghiệmCâu 1 Khái niệm "Trí tuệ nhân tạo tổng quát" (AGI - Artificial General Intelligence) được hiểu chính xác nhất là gì?
Câu 2 "Bài toán Căn chỉnh AI" (The AI Alignment Problem) tập trung giải quyết thách thức cốt tử nào?
Câu 3 Thí nghiệm tư duy "Cỗ máy tối đa hóa kẹp giấy" (Paperclip Maximizer) cảnh báo nguy cơ nào của AI siêu việt?
Câu 4 Trong thang đo các cấp độ phát triển của AI, toàn bộ các mô hình tân tiến nhất hiện nay (như GPT-4, Gemini, AlphaFold) vẫn thuộc phân loại nào?