Hành trình mạo hiểm của chúng ta về hướng trí tuệ nhân tạo

Project-Syndicate

Joseph S. Nye, Jr

Đỗ Kim Thêm dịch

Điểm sách

Henry A. Kissinger, Eric Schmidt and Daniel Huttenlocher

The Age of AI: And Our Human Future

Little, Brown and Company, 2021.

Những tác động mạnh mẽ của Trí tuệ nhân tạo đã được cảm nhận trong lĩnh vực kinh doanh, chính trị, y học, chiến tranh và hầu hết trong các lĩnh vực khác của cuộc sống trong thế kỷ XXI. Đối với tất cả các tiềm năng tích cực của nó, công nghệ này mang lại những rủi ro đáng lo ngại mà nó được đề cập tốt nhất sớm hơn là sau này.

Một chính khách lão thành, một nhà lãnh đạo doanh nghiệp thuộc Big Tech đã nghỉ hưu, và một nhà khoa học về máy vi tính gặp nhau trong một quán. Họ nói về vấn đề gì?

Tất nhiên, Trí tuệ nhân tạo, bởi vì mọi người đang nói về nó, hoặc lo cho nó, cho dù họ gọi nó là Alexa, Siri, hoặc một cái gì đó khác. Chúng ta không cần phải chờ đợi cho một tương lai của khoa học viễn tưởng; thời đại của Trí tuệ nhân tạo đã đến với chúng ta.

Đặc biệt là, việc máy tự học đang có ảnh hưởng mạnh mẽ đến cuộc sống của chúng ta, và nó cũng sẽ ảnh hưởng khủng khiếp đến tương lai của chúng ta.

Đó là thông điệp của cuốn sách mới đầy thu hút này của cựu Ngoại trưởng Hoa Kỳ Henry A. Kissinger, cựu Giám đốc điều hành Google Eric Schmidt và Trưởng khoa của trường Đại học MIT Daniel Huttenlocher.

Và cuốn sách đi kèm theo với một lời cảnh báo: Trí tuệ nhân tạo sẽ thách thức tính ưu việt của lý trí con người mà nó đã tồn tại từ buổi bình minh của thời kỳ Khai sáng. Máy móc có thực sự suy nghĩ? Máy có thông minh không? Và những thuật ngữ đó có ý nghĩa gì?

Năm 1950, Alan Turing, nhà toán học nổi tiếng người Anh, gợi ý rằng chúng ta tránh những câu hỏi hóc búa triết học sâu xa như vậy bằng cách đánh giá thành quả: Nếu chúng ta không thể phân biệt thành quả của máy với con người, chúng ta nên dán nhãn cho nó là „thông minh“.

Hầu hết các chương trình của máy vi tính lúc ban đầu đều tạo ra các giải pháp trong trạng thái cứng và tĩnh, nó thất bại trong cách thử nghiệm của Turing và lĩnh vực Trí tuệ nhân tạo tiếp tục suy yếu trong suốt những năm 1980.

Nhưng một bước đột phá đã xảy ra vào những năm 1990 với một khảo hướng mới, nó cho phép các máy móc tự học, thay vì chỉ được hướng dẫn bởi các mã bắt nguồn từ những hiểu biết do con người đề ra. Không giống như các thuật toán cổ điển, bao gồm các bước để tạo ra các kết quả chính xác, các thuật toán học do máy tự học bao gồm các bước để cải thiện các kết quả không chính xác. Lĩnh vực hiện đại của máy học tự động, các chương trình học thông qua kinh nghiệm, đã ra đời.

Kỹ thuật của các thuật toán theo máy tự học xếp lớp như trong phạm vi các mạng thần kinh (lấy cảm hứng từ cấu trúc của bộ não con người), ban đầu bị hạn chế do thiếu sức mạnh của vi tính. Nhưng điều đó đã thay đổi trong những năm gần đây. Năm 2017, AlphaZero, một chương trình Trí tuệ nhân tạo được phát triển bởi DeepMind của Google, đã đánh bại được Stockfish, một chương trình cờ vua mạnh nhất thế giới. Điều đáng chú ý không phải là một chương trình do máy tính chiếm ưu thế hơn so với chương trình của máy tính khác, mà là nó tự dạy nó để nó làm như vậy. Những người tạo ra nó đã cung cấp cho nó với các quy tắc chơi theo cờ vua và hướng dẫn cho nó phát triển một cách để thắng cuộc chơi. Chỉ sau bốn giờ học bằng cách chơi để chống lại chính mình, nó nổi lên như nhà vô địch cờ vua thế giới, đánh bại Stockfish 28 lần mà không thua trận nào (có 72 trận hòa).

Cách chơi của AlphaZero được thông báo bởi khả năng của nó có thể nhận ra các mô hình trong các khả năng rộng lớn mà tâm trí con người không thể nhận thức, tiến hành hoặc sử dụng. Từ đó, các phương pháp của máy tự học tương tự đã đưa Trí tuệ nhân tạo vượt xa việc đánh bại các chuyên gia về cờ vua để khám phá các chiến lược hoàn toàn mới. Như các tác giả chỉ ra, điều này đưa cho Trí tuệ nhân tạo vượt ra ngoài cách thử nghiệm của Turing về thành quả mà người ta không thể phân biệt được với trí thông minh của con người, bao gồm cả thành quả vượt quá con người.

Dùng thuật toán trong chính trị

Các mạng lưới thần kinh khi khởi động cũng có thể tạo ra các hình ảnh hoặc văn bản mới. Các tác giả trích dẫn cách GPT-3 của Trí tuệ nhân tạo như là một trong những loại Trí tuệ nhân tạo khởi động đáng chú ý nhất hiện nay.

Năm 2019, doanh nghiệp đã phát triển một mô hình ngôn ngữ tự đào tạo bằng cách tiêu thụ các văn bản có sẵn miễn phí từ internet. Với một vài từ, máy có thể ước đoán các câu và đoạn văn mới bằng cách phát hiện các mẫu trong các yếu tố theo tuần tự. Nó có thể soạn các văn bản mới và nguyên bản mà nó đáp ứng được cách thử nghiệm của Turing về việc hiển thị hành vi thông minh không thể phân biệt được với thái độ của con người.

Tôi biết điều này từ kinh nghiệm. Sau khi tôi chèn một vài từ, nó lùng sục trong internet và trong vòng chưa đầy một phút đã tạo ra một tin tức sai lệch hợp lý về tôi. Tôi biết nó là giả, nhưng tôi xem là không quan trọng lắm. Giả sử câu chuyện về một nhà lãnh đạo chính trị trong một cuộc bầu cử quan trọng?

Điều gì xảy ra với nền dân chủ khi người dùng internet trung bình có thể tung ra các chương trình Trí tuệ nhân tạo khởi động để làm tràn ngập diễn ngôn chính trị của chúng ta trong những ngày cuối trước khi mọi người bỏ phiếu?

Dân chủ vốn dĩ đã bị phân hoá chính trị,  vấn đề này trở nên trầm trọng hơn khi các thuật toán trong truyền thông xã hội, yêu cầu „nhấp chuột“ (và quảng cáo), nó phục vụ cho người dùng có quan điểm cực đoan („dân thân“) hơn bao giờ hết.

Tin tức sai lệch không phải là một vấn đề mới, nhưng sự khuyếch đại nhanh, rẻ và lan rộng bằng các thuật toán theo Trí tuệ nhân tạo là chắc chắn mới. Có thể có quyền tự do ngôn luận, nhưng không có quyền khuếch đại tự do.

Các tác giả lập luận là những vấn đề cơ bản này đang xuất hiện khi các nền tảng mạng trong toàn cầu như Google, Twitter và Facebook sử dụng Trí tuệ nhân tạo để tổng hợp và sàn lọc nhiều thông tin hơn người dùng của họ có thể. Nhưng sự sàn lọc này dẫn đến sự phân biệt người dùng, tạo ra các tiếng vang trong xã hội bị đóng kín gây ra sự bất hòa giữa các nhóm. Những gì mà một người giả định là một sự phản ánh chính xác của thực tế trở nên hoàn toàn khác với thực tế mà những người hoặc nhóm khác thấy, do đó củng cố và làm sâu sắc thêm sự phân hoá.

Trí tuệ nhân tạo đang ngày càng quyết định điều gì là quan trọng và điều gì là đúng, và các kết quả không đáng khích lệ cho sự lành mạnh của nền dân chủ.

Bẻ mã khoá mới

Tất nhiên, Trí tuệ nhân tạo cũng có những lợi ích tiềm năng rất lớn cho nhân loại. Các thuật toán Trí tuệ nhân tạo có thể đọc kết quả chụp quang tuyến với độ tin cậy cao hơn so với nhân viên kỹ thuật. (Điều này đặt ra một vấn đề thú vị cho các bác sĩ quyết định không ghi theo khuyến nghị của máy: họ sẽ bị kiện vì tội hành nghề bất cẩn?)

Các tác giả trích dẫn trường hợp halicin, một loại kháng sinh mới được phát hiện vào năm 2020 khi các nhà nghiên cứu của Đại học MIT giao nhiệm vụ cho Trí tuệ nhân tạo trong việc mô hình hóa hàng triệu các hợp chất trong vài ngày – một cách tính toán vượt xa khả năng của con người – để khám phá các phương pháp tiêu diệt vi khuẩn mà trước đây chưa khám phá và không giải thích được.

Các nhà nghiên cứu lưu ý rằng nếu không có Trí tuệ nhân tạo, halicin sẽ rất tốn kém hoặc không thể khám phá thông qua thử nghiệm truyền thống. Như các tác giả nói, lời hứa của Trí tuệ nhân tạo rất sâu sắc: dịch ngôn ngữ, phát hiện các bệnh tật và mô hình hóa biến đổi khí hậu chỉ là một vài ví dụ về những gì mà công nghệ này có thể làm.

Các tác giả không dành nhiều thời gian cho con ngáo ộp của AGI – trí tuệ nhân tạo tổng quát- hoặc phần mềm có khả năng thực hiện bất kỳ nhiệm vụ trí tuệ nào, bao gồm các nhiệm vụ và khái niệm liên quan giữa các ngành.

Bất kể tương lai lâu dài của AGI là gì, chúng ta đã có đủ các vấn đề khi thích ứng với trí tuệ nhân tạo do cách máy tự học được hiện có của chúng ta.

Máy có thể rút ra các kết luận, đưa ra các dự đoán và tạo các quyết định, nhưng nó không có sự tự nhận thức hoặc khả năng phản tỉnh về vai trò của nó trên thế giới.

Máy không có ý định, động lực, đạo đức hay cảm xúc.

Nói cách khác, máy không tương đương với một con người. Nhưng bất chấp những giới hạn của trí tuệ nhân tạo hiện có, chúng ta không nên đánh giá thấp những tác động sâu sắc mà nó đang có trong thế giới của chúng ta.

Theo lời của các tác giả: „Không nhận ra nhiều tiện ích hiện đại do trí tuệ nhân tạo đã cung cấp, chúng ta chậm chạp, gần như là thụ động, chúng ta đã dựa vào công nghệ mà không ghi nhận thực tế về sự phụ thuộc của chúng ta hoặc là về ảnh hưởng của nó.

Trong cuộc sống hàng ngày, trí tuệ nhân tạo là đối tác của chúng ta, giúp chúng ta đưa ra quyết định về việc ăn gì, mặc gì, tin gì, đi đâu và làm thế nào để đến đó. . . Nhưng những điều này và các khả năng khác đang được mua – phần lớn không phô trương – bằng cách thay đổi mối quan hệ của con người với lý trí và thực tế.

Cuộc đua trong trí tuệ nhân tạo

Trí tuệ nhân tạo đã gây ảnh hưởng đến nền chính trị thế giới. Bởi vì Trí tuệ nhân tạo là một công nghệ tạo điều kiện tổng quát, sự phân bố không đồng đều của nó sẽ ảnh hưởng đến tình trạng quân bình quyền lực trong toàn cầu. Ở giai đoạn này, trong khi máy tự học là trong khắp hoàn vũ, Hoa Kỳ và Trung Quốc là những cường quốc đứng đầu trong lĩnh vực Trí tuệ nhân tạo. Trong số bảy doanh nghiệp đứng hàng đầu thế giới trong lĩnh vực này, ba là của Mỹ và bốn là Trung Quốc.

Chủ tịch Trung Quốc Tập Cận Bình đã tuyên bố mục tiêu đưa Trung Quốc trở thành quốc gia đứng đầu về Trí tuệ nhân tạo vào năm 2030. Khai-Fu Lee của Sinovation Ventures ở Bắc Kinh ghi nhận rằng với dân số khổng lồ, mạng internet lớn nhất thế giới, các nguồn dữ liệu bao la và mối quan tâm thấp về quyền riêng tư, Trung Quốc có vị trí tốt để phát triển Trí tuệ nhân tạo.

Hơn nữa, Lee lập luận rằng việc tiếp cận một thị trường khổng lồ và nhiều kỹ sư có thể chứng minh là nó quan trọng hơn việc có các trường đại học và nhà khoa học đứng đầu thế giới.

Nhưng phẩm chất của các dữ liệu tạo vấn đề cũng như số lượng, phẩm chất của chip và thuật toán cũng như vậy. Ở đây, Mỹ có thể đi trước.

Kissinger, Schmidt và Huttenlocher lập luận rằng với các yêu cầu về dữ liệu và máy tính hạn chế sự phát triển của Trí tuệ nhân tạo tiên tiến hơn, việc đưa ra các phương pháp đào tạo sử dụng ít dữ liệu hơn và ít sức mạnh máy tính hơn là một giới hạn quan trọng.

Vũ khí và Trí tuệ nhân tạo

Ngoài việc cạnh tranh kinh tế, Trí tuệ nhân tạo sẽ có tác động lớn đến cạnh tranh quân sự và binh pháp chiến tranh. Theo lời của các tác giả, „việc đưa logic phi nhân vào các hệ thống quân sự sẽ thay đổi chiến lược“.

Khi các hệ thống Trí tuệ nhân tạo với máy tự học được triển khai chống lại nhau, con người có thể trở nên khó dự đoán các kết quả khi chúng tương tác. Điều này sẽ đặt tầm quan trọng về tốc độ, chiều rộng của hiệu ứng và độ bền.

Do đó, Trí tuệ nhân tạo sẽ làm cho các cuộc xung đột trở nên căng thẳng và không thể lường đoán. Tấn công bề mặt của các xã hội mạng kỹ thuật số sẽ quá rộng lớn khiến cho các chuyên gia điều hành khó bảo vệ bằng cách thủ công.

Các hệ thống chọn vũ khí sát thương tự động và tấn công mục tiêu sẽ làm giảm khả năng can thiệp kịp thời của con người. Trong khi chúng ta có thể cố gắng để có một ở trong hoặc trên vòng kết nối thuộc về con người, các động lực khích lệ cho sự ưu tiên và leo thang trước sẽ là mạnh mẽ. Xử lý một cuộc khủng hoảng sẽ trở nên khó khăn hơn.

Những rủi ro này cần khuyến khích cho các chính phủ phát triển về các cuộc tham vấn và các thỏa thuận về kiểm soát vũ khí; nhưng vẫn chưa rõ ràng trong việc kiểm soát vũ khí đối với Trí tuệ nhân tạo sẽ như thế nào.

Không giống như các vũ khí hạt nhân và thông thường, mà nó là quy mô, có thể nhìn thấy, nặng nề và tụt hậu và có thể đếm được, các đoàn máy bay không người lái hoặc ngư lôi có trang bị Trí tuệ nhân tạo khó xác minh hơn và các thuật toán hướng dẫn chúng thậm chí còn khó nắm bắt hơn.

Nói chung, sẽ rất khó để hạn chế sự phát triển của các khả năng Trí tuệ nhân tạo, đứng trước tầm quan trọng và sự phổ biến của công nghệ cho sử dụng trong phạm vi dân sự.

Tuy nhiên, về khả năng xác định mục tiêu quân sự là việc khả thi. Mỹ đã phân biệt được giữa các vũ khí do Trí tuệ nhân tạo trang bị và các vũ khí Trí tuệ nhân tạo tự động. Loại đầu tiên là chính xác hơn và gây chết người nhưng vẫn nằm dưới sự kiểm soát của con người; loại thứ hai là có thể đưa ra quyết định gây chết người mà không cần có người điều hành. Hoa Kỳ nói rằng họ sẽ không sở hữu loại thứ hai.

Hơn nữa, Liên Hiệp Quốc đã nghiên cứu vấn đề một hiệp ước quốc tế mới để cấm các loại vũ khí như vậy. Nhưng liệu tất cả các quốc gia có đồng ý không?

Sự tuân thủ sẽ được xác minh như thế nào? Với khả năng học tập của Trí tuệ nhân tạo khi khởi động, các vũ khí sẽ phát triển theo những cách nào để tránh được sự kiềm chế? Trong mọi trường hợp, những nỗ lực để xoa dịu trào lưu hương tới tính tự động sẽ rất quan trọng. Và, tất nhiên, tính tự động không nên được phép ở bất cứ đâu gần các hệ thống vũ khí hạt nhân.

Độ trễ của giới lãnh đạo

Đối với tất cả sự sáng suốt và khôn ngoan trong cuốn sách hay này, tôi mong ước các tác giả đã đưa chúng ta đi xa hơn trong việc đề xuất các giải pháp cho các vấn đề về cách con người có thể kiểm soát Trí tuệ nhân tạo cả trong và ngoài nước.

Họ chỉ ra rằng Trí tuệ nhân tạo này dễ vỡ vì nó thiếu tình trạng tự nhận thức. Nó không phải là cảm giác và không biết những gì nó không biết. Đối với tất cả sự cực kỳ thông minh của nó trong khi vượt qua con người trong một số nỗ lực, nó không thể xác định và tránh những sai lầm ngớ ngẩn mà đối với bất kỳ đứa trẻ nào, đó là rõ ràng. Kazuo Ishiguro, tiểu thuyết gia đoạt giải Nobel, đã kịch tính hóa điều này một cách xuất sắc trong tiểu thuyết Klara and the Sun của ông.

Kissinger, Schmidt và Huttenlocher lưu ý rằng, ngoài ra, việc Trí tuệ nhân tạo không có khả năng tự kiểm tra các lỗi rõ ràng nhấn mạnh đến tầm quan trọng của việc phát triển thử nghiệm cho phép con người xác định các giới hạn, xem xét các hành động được đề xuất và xây dựng khả năng phục hồi vào các hệ thống trong trường hợp mà Trí tuệ nhân tạo thất bại.

Các xã hội nên cho phép Trí tuệ nhân tạo được sử dụng trong các hệ thống sau khi những người tạo ra nó chứng minh được độ tin cậy của nó thông qua các tiến trình thử nghiệm.

Các tác giả viết: „Phát triển các chương trình chứng nhận chuyên nghiệp, giám sát việc tuân thủ và các chương trình giám sát đối với Trí tuệ nhân tạo – và kiểm soát chuyên môn mà họ thực hiện sẽ yêu cầu – sẽ là một dự án quan trọng trong xã hội „,

***

Joseph S. Nye, Jr. Giáo sư Đại học Harvard và là tác giả của   Do Morals Matter? Presidents and Foreign Policy from FDR to Trump.