Giải Luyện tập 2 trang 14 SGK Tin học 12

Lời giải

Vì sao cần ngăn cấm việc giao toàn quyền quyết định cho AI điều khiển vũ khí sát thương?

Theo quan điểm của SGK, việc trao toàn quyền quyết định "bắn hay không bắn", "tiêu diệt mục tiêu nào" cho hệ thống AI điều khiển vũ khí sát thương (vũ khí tự động) là điều phải ngăn cấm, vì những lí do sau:

a) AI không có đạo đức, không có lương tâm và trách nhiệm. Quyết định tước đoạt sinh mạng con người là quyết định mang tính đạo đức, nhân văn rất hệ trọng. AI chỉ xử lí theo thuật toán và dữ liệu, nó không hiểu được giá trị của sự sống, không phân biệt được đúng – sai về mặt đạo lí và không thể chịu trách nhiệm trước pháp luật về hậu quả gây ra. Vì vậy, quyền quyết định sinh – tử phải luôn thuộc về con người.

b) AI có thể mắc sai lầm, gây hậu quả không thể cứu vãn. Hệ thống AI có thể nhận dạng sai mục tiêu (nhầm thường dân với binh lính, nhầm mục tiêu dân sự với quân sự), bị lỗi kĩ thuật, lỗi dữ liệu huấn luyện hoặc gặp tình huống ngoài dự kiến. Khi điều khiển vũ khí sát thương, một sai lầm như vậy sẽ cướp đi sinh mạng người vô tội và không thể khắc phục được.

c) Nguy cơ mất kiểm soát và bị lợi dụng. Vũ khí AI tự động có thể bị tin tặc chiếm quyền điều khiển, bị sử dụng cho mục đích xấu (khủng bố, chiến tranh phi nghĩa), hoặc dẫn đến leo thang xung đột, chạy đua vũ trang ngoài tầm kiểm soát của con người, đe doạ hoà bình và an ninh của nhân loại.

➡️ Kết luận: Vì những rủi ro nghiêm trọng về đạo đức, về sai sót kĩ thuật và về nguy cơ mất kiểm soát nêu trên, con người phải luôn giữ vai trò giám sát và ra quyết định cuối cùng; không được giao toàn quyền quyết định cho AI điều khiển vũ khí sát thương.

Đáp số