Cố vấn AI hay AI tự động?

Cố vấn AI hay AI tự động?

“Tác nhân” AI đang đặt chúng ta trước một ngã rẽ quan trọng. AI có thể trở thành một cố vấn đáng tin cậy, cung cấp thông tin chính xác, phù hợp và kịp thời. Nhưng nếu đi theo hướng tự động hóa hoàn toàn, AI có thể dẫn đến nhiều hệ lụy khó lường, đồng thời làm suy giảm nhiều lợi ích mà công nghệ này lẽ ra có thể mang lại.

Hai mô hình tác nhân AI: cố vấn hay tự động hóa?

Các tác nhân AI đang đến, dù chúng ta đã sẵn sàng hay chưa. Dù vẫn còn nhiều điều chưa chắc chắn về thời điểm các mô hình AI có thể tự động tương tác với các nền tảng kỹ thuật số, các công cụ AI khác và thậm chí cả con người, nhưng không thể phủ nhận rằng sự phát triển này sẽ mang tính đột phá - dù theo hướng tích cực hay tiêu cực. Mặc dù có rất nhiều bàn luận về tác nhân AI, vẫn còn một câu hỏi lớn chưa được giải đáp: Ngành công nghệ đang hướng tới phát triển loại tác nhân AI nào? Các mô hình khác nhau sẽ dẫn đến những hệ quả rất khác nhau.

Với cách tiếp cận “AI như một cố vấn”, AI sẽ đưa ra các khuyến nghị được cá nhân hóa cho con người, giúp họ đưa ra quyết định mà vẫn giữ vai trò kiểm soát chính. Ngược lại, với mô hình "AI tự động" (autonomous AI) thì sẽ thay con người trực tiếp đưa ra quyết định. Đây là một sự khác biệt quan trọng với những tác động sâu rộng.

Mỗi ngày, con người đưa ra hàng trăm quyết định, trong đó có nhiều quyết định ảnh hưởng lớn đến sự nghiệp, cuộc sống hoặc hạnh phúc của họ. Nhiều quyết định này được đưa ra dựa trên các thông tin không hoàn thiện hoặc chưa đầy đủ và bị chi phối bởi cảm xúc, trực giác, bản năng hoặc sự bốc đồng. Như triết gia David Hume từng nói: "Lý trí chỉ nên là nô lệ của đam mê." Con người có thể không luôn đưa ra quyết định dựa trên lý trí một cách có hệ thống, nhưng như Hume đã ngụ ý trong từ “nên”, điều đó không hẳn là xấu. Đam mê phản ánh mục đích sống và có thể đóng vai trò quan trọng trong cách chúng ta đối mặt với một thế giới phức tạp.

Nếu AI đóng vai trò cố vấn, cung cấp thông tin đáng tin cậy, phù hợp với ngữ cảnh và nhu cầu của từng cá nhân. Khi đó nhiều quyết định quan trọng có thể được cải thiện nhưng con người vẫn là người đưa ra quyết định cuối cùng. Vậy liệu rằng AI tự động ra quyết định thay con người có thực sự là một điều xấu? Chẳng phải chúng có thể cải thiện hơn nữa quá trình ra quyết định, tiết kiệm thời gian và ngăn ngừa sai sót hay sao?

Nguồn: TimoElliott.com

Rủi ro của một thế giới toàn AI tự động

Cách nhìn nhận này tồn tại nhiều vấn đề. Trước hết, khả năng chủ động của con người đóng vai trò quan trọng đối với quá trình học hỏi và phát triển. Chính hành động đưa ra quyết định và suy ngẫm về kết quả - dù các dữ kiện và lời khuyên có đến từ AI - vẫn giúp con người khẳng định ý chí và mục đích của mình. Phần lớn những gì con người làm không chỉ đơn thuần là tính toán hay thu thập thông tin để tìm ra phương án tối ưu mà còn là một hành trình khám phá. Nếu mọi quyết định đều được giao phó cho AI, trải nghiệm này sẽ ngày càng trở nên hiếm hoi.

Hơn nữa, nếu ngành công nghệ tập trung vào việc phát triển AI tự động, nguy cơ nhiều công việc của con người bị thay thế sẽ tăng lên đáng kể. Khi đó, nếu AI chỉ đơn thuần được sử dụng để đẩy nhanh quá trình tự động hóa, thì viễn cảnh về một nền kinh tế mang lại sự thịnh vượng cho số đông sẽ trở nên xa vời.

Quan trọng hơn cả, có một sự khác biệt cơ bản giữa việc AI đưa ra quyết định thay con người và việc con người tự quyết định cho chính mình. Trong nhiều tình huống, khi con người tương tác với nhau, luôn có cả yếu tố hợp tác lẫn cạnh tranh.

Hãy xét đến trường hợp một công ty cung cấp đầu vào cho một công ty khác. Nếu đầu vào này có giá trị đủ lớn đối với bên mua thì giao dịch giữa hai công ty sẽ mang lại lợi ích cho cả hai bên và thường cũng có lợi cho xã hội. Tuy nhiên, để giao dịch diễn ra, giá của đầu vào phải được xác định thông qua một quá trình vốn dĩ mang tính xung đột. Giá càng cao, bên bán càng có lợi hơn so với bên mua.

Thông thường, quá trình thương lượng giá cả chịu sự chi phối bởi ba yếu tố chính: các chuẩn mực xã hội (chẳng hạn như nguyên tắc công bằng); hệ thống pháp lý (ví dụ như hợp đồng có thể áp đặt chi phí nếu bị vi phạm) và yếu tố thị trường (liệu bên bán có thể tìm được người mua khác hay không). Nhưng hãy tưởng tượng rằng bên mua nổi tiếng là rất cứng rắn - luôn từ chối mọi điều khoản trừ khi có được mức giá thấp nhất có thể. Nếu không có người mua nào khác, bên bán có thể buộc phải chấp nhận mức giá rẻ bèo này.

May mắn là trong các giao dịch hàng ngày, những thái độ mặc cả cực đoan như vậy hiếm khi xảy ra. Một phần vì nó gây tổn hại đến danh tiếng và quan trọng hơn là vì hầu hết mọi người không có đủ sự lạnh lùng hay tham vọng để hành xử quyết liệt như vậy. Nhưng giờ đây, hãy tưởng tượng bên mua sử dụng một AI tự động, không quan tâm đến các quy tắc ứng xử của con người và có sự cứng rắn như máy móc. AI này có thể được huấn luyện để luôn duy trì lập trường không khoan nhượng, khiến bên đối tác không còn hy vọng đạt được một kết quả có lợi cho cả hai bên. Ngược lại, trong một thế giới nơi AI chỉ đóng vai trò cố vấn, mô hình AI vẫn có thể khuyến nghị một lập trường cứng rắn, nhưng quyết định cuối cùng vẫn nằm trong tay con người.

Trong ngắn hạn, AI tự động hoá có thể tạo ra một thế giới bất bình đẳng hơn, nơi chỉ một số công ty hoặc cá nhân có quyền tiếp cận các mô hình AI có khả năng đàm phán cứng rắn. Nhưng ngay cả khi tất cả mọi người đều có công cụ như vậy, tình hình cũng không khá hơn. Cả xã hội sẽ bị cuốn vào những trò chơi “chiến tranh tiêu hao” (war-of-attrition), nơi tác nhân AI đẩy mọi tình huống xung đột đến bờ vực sụp đổ.

Những cuộc đối đầu như vậy vốn dĩ rất rủi ro. Giống như trong trò chơi “chicken” (khi hai chiếc xe lao vào nhau để xem ai sẽ là người bẻ lái trước), luôn tồn tại khả năng là không bên nào chịu nhượng bộ. Khi điều đó xảy ra, cả hai tay lái đều “chiến thắng” nhưng cũng đều phải bỏ mạng.

Một AI được huấn luyện để thắng trong trò chơi “chicken” sẽ không bao giờ nhượng bộ. Mặc dù AI có thể trở thành một cố vấn đáng tin cậy, cung cấp thông tin chính xác, phù hợp và kịp thời, nhưng nếu đi theo hướng tự động hóa hoàn toàn, AI có thể dẫn đến nhiều hệ lụy khó lường, đồng thời làm suy giảm nhiều lợi ích mà công nghệ này lẽ ra có thể mang lại.

Giới thiệu về tác giả Daron Acemoglu

Daron Acemoglu, nhà kinh tế học đoạt giải Nobel năm 2024 và Giáo sư Viện Kinh tế tại MIT, là đồng tác giả (cùng với James A. Robinson) của cuốn sách Why Nations Fail: The Origins of Power, Prosperity and Poverty (Profile, 2019) và đồng tác giả (cùng với Simon Johnson) của cuốn Power and Progress: Our Thousand-Year Struggle Over Technology and Prosperity (PublicAffairs, 2023).

Nguồn: EurekAlert!

* Bài viết thể hiện quan điểm của tác giả Daron Acemoglu

Phòng Tư Vấn Vietstock

FILI - 10:00:00 01/05/2025