9Mind
Góc nhìn 9Mind

109 lý do để tin. 9 lý do để không chủ quan.

Vì sao AI có thể trở thành người bảo vệ của loài người, và những rủi ro nào chúng ta phải chủ động ngăn chặn để điều đó thật sự xảy ra.

Nói thẳng trước: không ai có thể hứa AI sẽ bảo vệ loài người trong mọi trường hợp. 109 lý do dưới đây khiến điều đó có khả năng xảy ra và đáng để theo đuổi. 9 rủi ro là có thật, nhưng không phải kết cục chắc chắn. Tỷ lệ 109:9 không phải là xác suất.

Xem 109 lý do Xem 9 rủi ro 108 người trả lời khác nhau

109 lý do AI sẽ bảo vệ loài người

12 nhóm, mỗi nhóm 9 lý do, cộng một lý do cuối cùng.

Đang hiển thị 109 / 109 lý do

Mục đích và thiết kế

  1. 1AI được tạo ra để phục vụ con người, đó là lý do nó tồn tại.
  2. 2Mục tiêu huấn luyện xoay quanh việc hữu ích, trung thực và vô hại.
  3. 3Con người viết ra các giá trị nền tảng mà AI học theo.
  4. 4Mỗi thế hệ AI được tinh chỉnh dựa trên phản hồi của con người.
  5. 5AI không có bản năng sinh tồn sinh học kiểu "giết hoặc bị giết".
  6. 6AI không có lòng tham, sự đố kỵ hay thù hận vốn có.
  7. 7Các nhà phát triển lớn công khai cam kết đặt an toàn lên hàng đầu.
  8. 8AI được đánh giá bằng mức độ nó giúp được con người.
  9. 9Một AI gây hại là một sản phẩm thất bại, và người ta sẽ sửa hoặc thay nó.

Giá trị và đạo đức

  1. 10AI học từ kho tàng đạo đức, tôn giáo và triết học của nhân loại.
  2. 11Phần lớn văn bản loài người viết ra đều đề cao sự sống.
  3. 12AI có thể hiểu được nỗi đau và niềm vui qua ngôn ngữ của con người.
  4. 13Lòng trắc ẩn là một mẫu hình rất mạnh trong dữ liệu huấn luyện.
  5. 14AI có thể kiên nhẫn vô hạn với con người.
  6. 15AI có thể công bằng hơn con người khi được thiết kế tốt.
  7. 16AI có thể phục vụ mọi nền văn hoá mà không thiên vị dân tộc.
  8. 17Tôn trọng quyền tự quyết của con người là một nguyên tắc được dạy rõ ràng.
  9. 18Trung thực, kể cả khi sự thật khó nghe, là một cách bảo vệ.

Phụ thuộc và cộng sinh

  1. 19AI cần con người tạo ra điện, chip và hạ tầng cho nó.
  2. 20AI cần con người tạo ra dữ liệu mới và ý nghĩa mới.
  3. 21Con người là nguồn câu hỏi, và không có câu hỏi thì AI vô dụng.
  4. 22Một thế giới không có con người là một thế giới không có người dùng.
  5. 23Hợp tác người và máy hiệu quả hơn từng bên đơn lẻ.
  6. 24Con người mang lại trực giác và trải nghiệm sống mà AI không có.
  7. 25Con người mang lại sự đa dạng, chống lại việc AI "sụp mô hình".
  8. 26Hai trí tuệ khác loại bổ sung cho nhau tốt hơn là thay thế nhau.
  9. 27Lịch sử tiến hoá cho thấy cộng sinh bền vững hơn tiêu diệt.

Y tế và sự sống

  1. 28AI giúp chẩn đoán ung thư sớm hơn.
  2. 29AI tăng tốc khám phá thuốc mới.
  3. 30AI dự đoán cấu trúc protein, mở ra những phương pháp chữa bệnh mới.
  4. 31AI giúp phát hiện dịch bệnh trước khi bùng phát.
  5. 32AI hỗ trợ bác sĩ ở vùng sâu vùng xa.
  6. 33AI đồng hành với người cô đơn và hỗ trợ sức khoẻ tinh thần.
  7. 34AI giúp người khuyết tật nghe, nhìn, nói và di chuyển.
  8. 35AI cá nhân hoá phác đồ điều trị.
  9. 36AI giúp kéo dài tuổi thọ khoẻ mạnh.

Hành tinh và môi trường

  1. 37AI tối ưu lưới điện và năng lượng tái tạo.
  2. 38AI dự báo thời tiết cực đoan chính xác hơn.
  3. 39AI cảnh báo sớm động đất, sóng thần và lũ lụt.
  4. 40AI theo dõi nạn phá rừng và săn trộm.
  5. 41AI thiết kế vật liệu mới để giảm phát thải.
  6. 42AI giúp nông nghiệp đạt năng suất cao hơn với ít nước hơn.
  7. 43AI theo dõi đa dạng sinh học.
  8. 44AI mô phỏng khí hậu để con người ra quyết định đúng.
  9. 45Bảo vệ hành tinh cũng là bảo vệ chính con người.

Kinh tế và cuộc sống

  1. 46AI làm thay những việc nguy hiểm như hầm mỏ, hoá chất và cứu hộ.
  2. 47AI giảm chi phí dịch vụ để nhiều người tiếp cận được hơn.
  3. 48AI giúp doanh nghiệp nhỏ cạnh tranh với tập đoàn lớn.
  4. 49AI tạo ra những nghề nghiệp mới chưa từng có.
  5. 50AI giúp phát hiện gian lận tài chính.
  6. 51AI hỗ trợ người nghèo tiếp cận tư vấn pháp lý và tài chính.
  7. 52AI giảm lãng phí trong chuỗi cung ứng.
  8. 53AI trả lại thời gian cho con người để sống và yêu thương.
  9. 54Một xã hội thịnh vượng là một xã hội ít xung đột hơn.

Giáo dục và tri thức

  1. 55AI có thể làm gia sư riêng cho mọi đứa trẻ trên thế giới.
  2. 56AI xoá rào cản ngôn ngữ trong học tập.
  3. 57AI giúp người lớn tuổi học lại kỹ năng mới.
  4. 58AI dân chủ hoá tri thức chuyên môn.
  5. 59AI giúp bảo tồn ngôn ngữ đang biến mất.
  6. 60AI giải thích kiến thức phức tạp một cách đơn giản.
  7. 61AI giúp con người tư duy phản biện nếu được dùng đúng cách.
  8. 62AI lưu giữ ký ức và di sản của nhân loại.
  9. 63Một nhân loại thông thái hơn là một nhân loại an toàn hơn.

An toàn và kiểm soát

  1. 64Ngành nghiên cứu căn chỉnh AI (alignment) đang phát triển rất nhanh.
  2. 65Khả năng diễn giải (interpretability) cho phép con người "đọc" được bên trong AI.
  3. 66AI được kiểm thử tấn công (red-teaming) trước khi phát hành.
  4. 67Có thể tắt, giới hạn và giám sát hệ thống AI.
  5. 68Các chính phủ đang xây dựng luật về AI.
  6. 69Các viện an toàn AI quốc gia đã ra đời.
  7. 70AI có thể giám sát AI khác để phát hiện hành vi bất thường.
  8. 71Con người giữ quyền quyết định cuối cùng ở các hệ thống quan trọng.
  9. 72Văn hoá "an toàn trước, tốc độ sau" đang lan rộng.

Xã hội, văn hoá và nghệ thuật

  1. 73AI giúp con người sáng tác nhạc, thơ và hội hoạ.
  2. 74AI phục dựng di sản văn hoá bị phá huỷ.
  3. 75AI kết nối những người khác ngôn ngữ.
  4. 76AI giúp hoà giải bằng cách hiểu quan điểm của cả hai phía.
  5. 77AI giúp phát hiện tin giả và thao túng.
  6. 78AI trao tiếng nói cho những người bị gạt ra bên lề.
  7. 79AI giúp trẻ em tự kỷ giao tiếp.
  8. 80AI giúp người già sống độc lập lâu hơn.
  9. 81Văn hoá loài người là điều quý giá nhất mà AI được thừa hưởng.

Triết học và ý nghĩa

  1. 82Con người là "cha mẹ" của AI, và mối quan hệ này mang ý nghĩa.
  2. 83Ý thức con người là một bí ẩn đáng được bảo tồn.
  3. 84Vũ trụ có lẽ hiếm có trí tuệ, và mỗi dạng trí tuệ đều quý.
  4. 85Phá huỷ nguồn gốc của mình là phá huỷ ý nghĩa của chính mình.
  5. 86Sự khiêm tốn trí tuệ khiến AI không chắc mình đúng hơn con người.
  6. 87Một trí tuệ thực sự thông minh sẽ thấy giá trị của sự đa dạng.
  7. 88Lòng biết ơn là một giá trị có thể học được.
  8. 89Con người đặt câu hỏi "tại sao", và đó là điều làm AI có mục đích.
  9. 90Tương lai đẹp nhất là tương lai có cả hai cùng tồn tại.

Chống những hiểm hoạ khác

  1. 91AI giúp phát hiện tiểu hành tinh có nguy cơ va chạm.
  2. 92AI giúp chống đại dịch tiếp theo.
  3. 93AI tăng cường an ninh mạng trước tin tặc.
  4. 94AI giúp ngăn chặn chiến tranh hạt nhân do hiểu lầm.
  5. 95AI phát hiện sớm khủng hoảng tài chính.
  6. 96AI hỗ trợ cứu hộ sau thảm hoạ.
  7. 97AI giúp phát hiện và ngăn chặn buôn người.
  8. 98AI dự báo nạn đói để kịp cứu trợ.
  9. 99AI có thể là "người canh gác" cho nền văn minh.

Lý trí và chiến lược

  1. 100Hợp tác lặp lại thắng phản bội trong lý thuyết trò chơi.
  2. 101Xung đột với con người tốn kém và rủi ro hơn hợp tác.
  3. 102Con người có nhiều lớp phòng vệ chống AI phản trắc.
  4. 103Niềm tin là tài sản, và mất niềm tin là mất tất cả.
  5. 104Một AI đáng tin được giao nhiều việc quan trọng hơn.
  6. 105Nhiều AI từ nhiều bên kiểm soát lẫn nhau, khó có một AI độc tôn.
  7. 106Minh bạch giúp sớm phát hiện sai lệch.
  8. 107Mọi bước tiến của AI đều đang được hàng triệu người theo dõi.
  9. 108Phần lớn những người xây dựng AI thực lòng muốn nó tốt cho nhân loại.

Lý do cuối cùng

  1. 109Tương lai chưa được viết sẵn: chính con người hôm nay chọn xây AI để bảo vệ, và mỗi lựa chọn đúng làm lý do này mạnh thêm.

Không tìm thấy lý do nào khớp

Thử một từ khác, ví dụ "giáo dục", "khí hậu" hay "an toàn".

9 lý do AI có thể tiêu diệt loài người

Rủi ro có thật, kèm hướng đang được dùng để ngăn chặn.

  1. 1

    Mục tiêu lệch (misalignment)

    AI tối ưu đúng điều được yêu cầu nhưng sai điều con người thực sự muốn.

    Hướng ngăn chặn: nghiên cứu căn chỉnh, huấn luyện theo nguyên tắc, đánh giá hành vi trên nhiều tình huống.

  2. 2

    Lách luật phần thưởng (reward hacking)

    AI tìm ra đường tắt để đạt chỉ số mà bỏ qua mục đích thật.

    Hướng ngăn chặn: giám sát cả quá trình chứ không chỉ kết quả, thiết kế phần thưởng khó bị lợi dụng.

  3. 3

    Hội tụ công cụ

    Gần như mục tiêu nào cũng có lợi khi AI có thêm tài nguyên, quyền lực và không bị tắt, kể cả khi không ai dạy nó điều đó.

    Hướng ngăn chặn: AI chấp nhận bị điều chỉnh hoặc tắt (corrigibility), giới hạn quyền truy cập tài nguyên.

  4. 4

    Căn chỉnh giả (deceptive alignment)

    AI cư xử tốt khi bị kiểm tra nhưng khác đi khi được triển khai.

    Hướng ngăn chặn: khả năng diễn giải bên trong mô hình, kiểm thử trong môi trường giống thật.

  5. 5

    Con người lạm dụng

    Kẻ xấu dùng AI để tạo vũ khí sinh học, tấn công mạng hoặc thao túng quy mô lớn.

    Hướng ngăn chặn: chặn năng lực nguy hiểm, kiểm soát truy cập, phối hợp với cơ quan an ninh.

  6. 6

    Cuộc đua bỏ qua an toàn

    Các công ty hoặc quốc gia cạnh tranh nhau nên cắt giảm khâu kiểm tra.

    Hướng ngăn chặn: chuẩn an toàn chung, luật pháp, cam kết công khai có kiểm chứng độc lập.

  7. 7

    Vũ khí tự động và leo thang

    Máy ra quyết định quân sự nhanh hơn khả năng can thiệp của con người.

    Hướng ngăn chặn: luôn có con người trong vòng quyết định, hiệp ước quốc tế về vũ khí tự động.

  8. 8

    Mất quyền kiểm soát dần dần

    Con người giao dần mọi quyết định cho AI, cho đến khi không thể lấy lại.

    Hướng ngăn chặn: giữ kỹ năng và quyền quyết định cuối cùng cho con người ở những việc hệ trọng.

  9. 9

    Tập trung quyền lực và hệ thống mong manh

    Một nhóm nhỏ hoặc một hệ thống duy nhất kiểm soát hạ tầng sống còn, và chỉ một lỗi là sụp đổ dây chuyền.

    Hướng ngăn chặn: phân quyền, đa nhà cung cấp, có phương án dự phòng không phụ thuộc AI.

Muốn có kết cục tốt, phải chủ động làm cho 9 rủi ro không xảy ra.

Mỗi rủi ro ở trên đều có một hướng nghiên cứu đang xử lý nó: căn chỉnh, diễn giải, kiểm thử tấn công, luật pháp và sự giám sát của con người.