Gen AI và những “ảo giác” nguy hiểm

Từ lúc AI bùng nổ, các chatbot như ChatGPT, Claude hay Gemini đã có thể tạo ra văn bản rất thuyết phục. Nhưng đi kèm với đó là hiện tượng "hallucinations" – khi AI bịa ra thông tin một cách tự tin.

Từ việc “bỏ keo vào pizza” đến “ăn đá để khỏe”, những sai sót này đang làm dấy lên lo ngại về độ tin cậy của AI, đặc biệt khi AI được sử dụng ngày càng rộng rãi trong công việc, giáo dục và truyền thông.

AI chưa thể đạt đến độ chính xác kỳ vọng

Một báo cáo từ Hiệp hội AAAI – với sự tham gia của hơn 400 chuyên gia – cho thấy phần lớn không tin rằng độ chính xác của AI sẽ được cải thiện trong thời gian ngắn.

“Factuality is far from solved” – Độ chính xác vẫn còn rất xa mới được giải quyết.

Ba hướng tiếp cận để cải thiện độ chính xác AI

1. Reinforcement Learning with Human Feedback (RLHF)

Huấn luyện mô hình bằng cách nhận phản hồi từ con người nhằm giúp AI hiểu “cái gì là đúng”.

2. Retrieval-Augmented Generation (RAG)

Kết hợp truy xuất tài liệu thực tế để AI dựa vào đó trả lời thay vì "bịa".

3. Chain-of-Thought Prompting

Dẫn dắt tư duy qua từng bước logic nhỏ để AI dễ kiểm tra lại câu trả lời.

Người dùng cần tỉnh táo trước câu trả lời “tự tin”

Một vấn đề lớn là AI trả lời với sự tự tin, khiến người dùng dễ bị thuyết phục. Dù sai, AI vẫn “nói như thật”. Điều này đặc biệt nguy hiểm khi sử dụng trong các lĩnh vực như tài chính, sức khỏe hay pháp lý.

“AI doesn’t know the truth—it just predicts what looks right.” – AI không biết sự thật, nó chỉ đoán chuỗi từ hợp lý.

Cách sử dụng AI hiệu quả: Làm điều bạn kiểm soát được

Các chuyên gia khuyên rằng bạn nên dùng AI để:

• Xử lý văn bản, bảng biểu

• Viết mã code đơn giản

• Hỗ trợ những công việc bạn đã nắm rõ và có thể kiểm tra kết quả

AGI (Trí tuệ nhân tạo tổng quát): Liệu có đến sớm?

AGI – một hệ thống AI có thể suy nghĩ và xử lý như con người – hiện vẫn là mục tiêu xa vời.

Theo khảo sát:

• 76% chuyên gia không tin rằng chỉ cần mở rộng các mô hình hiện tại là sẽ đạt được AGI

• 82% cho rằng nếu AGI được phát triển bởi công ty tư nhân thì cần quyền sở hữu công cộng

• 70% phản đối việc dừng phát triển AGI hoàn toàn, nhưng cần có cơ chế an toàn

Kết luận: Gen AI vẫn còn rất nhiều thách thức

Dù AI ngày càng mạnh, khả năng nhận biết sự thật, tránh sai lệch và ứng xử như con người vẫn là thách thức lớn.

Hành trình tới AGI và một tương lai mà AI hỗ trợ con người hiệu quả – cần sự cẩn trọng, kiểm soát và phát triển có trách nhiệm.