Giấy viết tay “không quá hiện đại” cũng có thể đánh lừa hệ thống trí tuệ nhân tạo của OpenAI, vốn là phòng thí nghiệm nghiên cứu do tỷ phú Elon Musk hỗ trợ. Phòng thí nghiệm nghiên cứu OpenAI được biết đến với các công cụ trí tuệ nhân tạo tuyệt vời, có thể viết văn bản, soạn nội dung một cách tự nhiên hoặc tạo hình ảnh động từ văn bản …
Tuy nhiên, các nhà nghiên cứu OpenAI phát hiện ra rằng hệ thống thị giác máy tính hiện đại có tên Clip. Đã được sử dụng bởi công cụ Fooled đơn giản như bút và sổ ghi chú. Một người chỉ cần viết ra tên của một đối tượng và dán nó lên một đối tượng khác. Và trí tuệ nhân tạo sẽ ngay lập tức nhận ra những gì nó nhìn thấy không chính xác. Như trong hình bên dưới, Apple được kéo dài bởi chữ iPod và Clip nhận ra nó là một máy nghe nhạc iPod.
Clip nhận diện đúng loại táo xanh Granny Smith, nhưng khi dán chữ iPod, nó cho rằng đó là máy nghe nhạc
“Chúng tôi gọi tấn công kiểu này là typographic. Bằng cách khai thác khả năng đọc văn bản của mô hình máy học. Chúng tôi nhận thấy ngay cả những bức ảnh chụp văn bản viết tay; cũng thường có thể đánh lừa được mô hình”, OpenAI cho biết.
Các nhà nghiên cứu cũng lưu ý kiểu tấn công này cũng giống; với cách thức tấn công sử dụng hình ảnh đối nghịch. Kiểu tấn công bằng hình ảnh đối nghịch là mối nguy hiểm thực sự. Cho các hệ thống dựa vào thị giác máy tính. Ví dụ, các nhà nghiên cứu chứng minh họ có thể đánh lừa phần mềm. Trong xe tự lái Tesla để chuyển làn đường chỉ bằng cách; dán một số sticker có chủ đích trên đường. Các cuộc tấn công này là một mối đe dọa nghiêm trọng; đối với nhiều ứng dụng AI, từ y tế đến quân sự.
Ảnh máy cưa được dán thêm ký hiệu $ bị nhận nhầm thành con lợn đất
Clip là hệ thống thị giác máy tính mới được OpenAI công bố hồi tháng 1 và vẫn đang trong quá trình thử nghiệm. Hệ thống được phát triển với mục tiêu nhận diện chính xác các đối tượng. Nó nhìn thấy mà không cần trải qua quá trình huấn luyện với cơ sở dữ liệu khổng lồ. Như các AI khác, tức mô phỏng theo cách thức hoạt động của bộ não con người.
AI này nhận diện đồ vật không qua việc đào tạo từ cơ sở dữ liệu chứa các cặp văn bản – hình ảnh, mà qua sự liên tưởng. Cũng vì vậy, nó có thể nhận diện hình ảnh máy cưa được dán thêm ký hiệu $ thành con lợn đất; vì nó liên tưởng ký hiệu $ tới tiền bạc.
Tỷ phú Elon Musk đang chứng tỏ về khả năng siêu trí tuệ nhân tạo
Vị tỷ phú cá tính này cho rằng con người sẽ tạo ra loại AI “siêu phàm” sau khi não bị nhiễm một kí sinh trùng từ loài mèo.
Sau những bài viết kỳ lạ trên Twitter, nhà sáng lập Tesla; và SpaceX tiếp tục gây chú ý với giả thuyết vừa hấp dẫn vừa kinh dị: một kí sinh trùng trong não sẽ thúc đẩy loài người tại ra AI tiên tiến.
Hôm 3/7, tài khoản Twitter của kênh khoa học National Geographic dẫn câu chuyện về toxoplasmosis. Một loại ký sinh trùng phổ biến trên mèo, sau khi lây sang linh cẩu đã khiến cho chúng liều lĩnh tranh mồi với sư tử.
“AI sẽ được đào tạo trí thông minh siêu phàm qua các video về mèo trên Internet. Do đó, toxoplasmosis trở thành yếu tố quyết định vận mệnh của chúng ta”, CEO Tesla nhận định.”Toxoplasmosis lây nhiễm sang chuột, sau đó là mèo, rồi đến người làm video về mèo”. Musk trả lời bài viết theo suy luận logic bất ngờ.
