Từ cuộc đua AI đến nỗi lo mất kiểm soát

Khi các hệ thống AI ngày càng có khả năng tự nghiên cứu, lập trình và tối ưu hóa chính mình, cuộc tranh luận không còn xoay quanh việc AI thay thế con người, mà là liệu con người có còn giữ vai trò trung tâm trong quá trình phát triển AI hay không.

Hơn 80% lượng mã nguồn được công ty trí tuệ nhân tạo Anthropic công bố trong tháng 5 vừa qua do AI viết thay vì con người. Chỉ vài năm trước, con số này gần như bằng không.

AI có thể đang tiến gần đến thời điểm tự tạo ra thế hệ kế nhiệm của chính mình. Nguồn: Reuters

Sự thay đổi đó phản ánh tốc độ phát triển chóng mặt của trí tuệ nhân tạo. Nhưng điều đáng chú ý hơn là chính Anthropic, một trong những công ty đang dẫn đầu cuộc đua AI toàn cầu, lại vừa kêu gọi thế giới chuẩn bị phương án làm chậm hoặc thậm chí tạm dừng việc phát triển các hệ thống AI tiên tiến nếu rủi ro vượt khỏi tầm kiểm soát.

Thoạt nhìn, đây có vẻ là một nghịch lý. Tại sao một công ty đang hưởng lợi từ làn sóng AI lại muốn nói về việc đạp phanh?

Câu trả lời nằm ở một nỗi lo ngày càng lớn trong giới nghiên cứu công nghệ: AI có thể đang tiến gần đến thời điểm tự tạo ra thế hệ kế nhiệm của chính mình.

Trong nhiều năm, con người luôn là trung tâm của quá trình phát triển công nghệ. Các kỹ sư thiết kế phần mềm mới, các nhà khoa học xây dựng thuật toán mới và các chuyên gia vận hành hệ thống. Nhưng điều đó có thể thay đổi khi AI ngày càng tham gia sâu hơn vào chính quá trình nghiên cứu và phát triển AI.

Hiện nay, các mô hình tiên tiến không chỉ có khả năng viết mã. Chúng còn có thể đề xuất ý tưởng mới, xây dựng thử nghiệm, phân tích kết quả và tối ưu hóa hệ thống. Một số công việc vốn cần nhiều giờ hoặc nhiều ngày của các kỹ sư giàu kinh nghiệm giờ có thể được hoàn thành trong vài chục phút.

Những tiến bộ này đang khiến nhiều chuyên gia nghĩ tới một kịch bản từng bị xem là khoa học viễn tưởng, khi AI có thể tự cải tiến chính mình.

Về lý thuyết, quá trình này diễn ra khá đơn giản. Một hệ thống AI tạo ra phiên bản mới mạnh hơn chính nó. Phiên bản mới tiếp tục tạo ra phiên bản tiếp theo với năng lực cao hơn nữa. Quá trình lặp lại liên tục, mỗi vòng nhanh hơn và hiệu quả hơn vòng trước.

Jack Clark, đồng sáng lập Anthropic, từng đưa ra dự báo khoảng 60% khả năng trước năm 2029 sẽ xuất hiện một hệ thống AI có thể tạo ra thế hệ kế nhiệm mà không cần sự tham gia trực tiếp của con người.

Nếu điều đó xảy ra, thế giới có thể bước vào giai đoạn mà các nhà nghiên cứu gọi là “tự cải tiến đệ quy”. (“Đệ quy” là phương pháp trong kỹ thuật lập trình, trong đó một hàm tự gọi lại chính nó để giải quyết một bài toán). Nói cách khác, AI sẽ không chỉ là công cụ hỗ trợ con người mà trở thành tác nhân trực tiếp thúc đẩy sự phát triển của chính nó.

Những dấu hiệu đầu tiên đã xuất hiện. Đầu năm nay, một hệ thống AI của Google DeepMind đã đề xuất các giải pháp giúp cải thiện hiệu quả hoạt động của trung tâm dữ liệu và tối ưu hóa một số thuật toán quan trọng phục vụ huấn luyện mô hình AI. Trong khi đó, nhiều nhà nghiên cứu cho biết các hệ thống hiện nay đã có thể đảm nhận một phần công việc vốn trước đây chỉ do các nhóm kỹ sư thực hiện.

Đối với những người lạc quan, đây có thể là con đường dẫn tới các đột phá khoa học chưa từng có. Khi AI tham gia nghiên cứu, tốc độ phát triển công nghệ có thể tăng lên nhiều lần, mở ra cơ hội giải quyết các vấn đề từ y học, vật liệu mới đến năng lượng sạch.

Tuy nhiên, những người thận trọng lại đặt ra một câu hỏi khác. Nếu AI ngày càng đảm nhiệm nhiều khâu trong quá trình phát triển AI, ai sẽ là người thực sự kiểm soát hệ thống?

Nỗi lo này không xuất phát từ những kịch bản robot nổi loạn như trong phim ảnh. Điều khiến nhiều chuyên gia quan ngại hơn là khả năng con người dần mất đi vai trò trung tâm trong quá trình ra quyết định, đánh giá rủi ro và định hướng phát triển công nghệ.

Dẫu vậy, phần lớn chuyên gia đều cho rằng viễn cảnh AI hoàn toàn tự phát triển vẫn chưa ở rất gần. Các mô hình hiện nay vẫn phụ thuộc vào hạ tầng tính toán khổng lồ, nguồn dữ liệu chất lượng cao và lượng điện năng khổng lồ để hoạt động. Những giới hạn vật lý đó tiếp tục là rào cản đối với tốc độ phát triển của AI.

Nhưng cuộc tranh luận đã thay đổi đáng kể. Nếu vài năm trước, câu hỏi lớn nhất là AI có thể thay thế bao nhiêu công việc của con người, thì giờ đây giới công nghệ đang đối mặt với một vấn đề sâu xa hơn nhiều.

Có thể một ngày nào đó, những hệ thống AI do con người tạo ra hôm nay sẽ là những hệ thống cuối cùng còn cần đến con người để tạo ra chúng.

AI bùng nổ, tương lai của lập trình viên có thể không còn nằm ở việc viết codeSự trỗi dậy của AI đang khiến vai trò kỹ sư phần mềm thay đổi nhanh chóng, nhưng cách tuyển dụng của các công ty vẫn chưa kịp thích ứng với những thay đổi đó... Thị trường việc làm dành cho các ứng viên kỹ sư phần mềm hiện nay đang trở nên khó khăn hơn bao giờ hết. Hàng chục nghìn đợt...