Chúng tôi xây dựng các hệ thống AI một cách có trách nhiệm trên quy mô lớn bằng cách nào? Tìm hiểu về Trí tuệ nhân tạo có trách nhiệm, khái niệm và thuật ngữ có liên quan, cũng như cách triển khai các phương pháp này trong sản phẩm.
Giới thiệu
Trí tuệ nhân tạo (AI) hỗ trợ nhiều ứng dụng và dịch vụ mà mọi người sử dụng trong cuộc sống hàng ngày. Với hàng tỷ người dùng AI trong các lĩnh vực từ kinh doanh, chăm sóc sức khoẻ cho đến giáo dục, điều quan trọng là các công ty hàng đầu về AI phải nỗ lực để đảm bảo rằng lợi ích của những công nghệ này có tác dụng hơn cả tác hại, nhằm tạo ra trải nghiệm hữu ích, an toàn và đáng tin cậy nhất cho tất cả mọi người.
Trí tuệ nhân tạo có trách nhiệm xem xét tác động xã hội đối với sự phát triển và quy mô của những công nghệ này, bao gồm cả những mối nguy hại và lợi ích tiềm ẩn. Nguyên tắc về AI (trí tuệ nhân tạo) cung cấp một khung bao gồm các mục tiêu cho ứng dụng AI (trí tuệ nhân tạo) và các ứng dụng mà chúng ta không theo đuổi trong quá trình phát triển hệ thống AI.
Phương diện AI có trách nhiệm
Khi sự phát triển của AI tăng tốc và trở nên phổ biến hơn, điều quan trọng là phải kết hợp các hoạt động AI có trách nhiệm vào mọi giai đoạn của quy trình làm việc, từ lúc lên ý tưởng cho đến khi ra mắt. Các phương diện sau đây là các thành phần chính của AI có trách nhiệm và cần quan trọng trong suốt vòng đời sản phẩm.
Tính công bằng
Tính công bằng giải quyết các kết quả khác nhau có thể xảy ra mà người dùng cuối có thể gặp phải liên quan đến các đặc điểm nhạy cảm như chủng tộc, thu nhập, khuynh hướng tình dục hoặc giới tính thông qua việc đưa ra quyết định theo thuật toán. Chẳng hạn, thuật toán tuyển dụng có thể có sự thiên vị hoặc chống lại những ứng viên có tên liên quan đến một giới tính hoặc sắc tộc cụ thể không?
Tìm hiểu thêm về cách hệ thống máy học có thể dễ bị ảnh hưởng bởi những thành kiến của con người trong video này:
Tìm hiểu về cách các sản phẩm như Tìm kiếm và Ảnh cải thiện tính đa dạng của cách thể hiện giao diện.
Để biết thêm các điều khoản liên quan đến công nghệ máy học, vui lòng xem Bảng thuật ngữ về máy học: Tính công bằng | Google dành cho nhà phát triển. Để tìm hiểu thêm, mô-đun Fairness (Công bằng) của Machine Learning Crash Course (Giới thiệu về sự cố máy học) sẽ cung cấp thông tin giới thiệu về công nghệ máy học.
Nghiên cứu về con người + AI (PAIR) cung cấp các dữ liệu có thể tương tác về AI, bao gồm cả Đo lường sự công bằng và Xu hướng ẩn để tìm hiểu các khái niệm này.
Trách nhiệm
Trách nhiệm giải trình có nghĩa là bạn phải chịu trách nhiệm về tác động của hệ thống AI. Việc này liên quan đến sự minh bạch hoặc việc chia sẻ thông tin về hành vi của hệ thống và quy trình tổ chức, có thể bao gồm việc ghi chép và chia sẻ cách các mô hình và tập dữ liệu được tạo, đào tạo và đánh giá. Thẻ mô hình và Thẻ dữ liệu là ví dụ về các cấu phần phần mềm minh bạch có thể giúp sắp xếp các thông tin thiết yếu của mô hình và tập dữ liệu máy học theo cách có cấu trúc.
Một khía cạnh khác của trách nhiệm giải trình là khả năng hiểu được, nghĩa là việc hiểu được các quyết định đối với mô hình máy học, trong đó con người có thể xác định các tính năng dẫn đến dự đoán. Hơn nữa, khả năng giải thích là khả năng giải thích các quyết định tự động của mô hình sao cho con người có thể hiểu được.
Đọc thêm về việc xây dựng lòng tin của người dùng đối với các hệ thống AI (trí tuệ nhân tạo) trong Cẩm nang Con người + Trí tuệ nhân tạo và phần Giải thích trong Các phương pháp AI có trách nhiệm của Google.
An toàn
An toàn AI (trí tuệ nhân tạo) bao gồm một nhóm các kỹ thuật thiết kế và vận hành để tuân thủ và tránh các hành động có thể gây hại, một cách có chủ ý hoặc vô tình. Ví dụ: các hệ thống có hoạt động như dự định, ngay cả khi bị tấn công bảo mật hoặc tấn công có chủ đích không? Hệ thống AI của bạn có đủ mạnh để hoạt động một cách an toàn ngay cả khi bị xáo trộn không? Bạn lên kế hoạch trước để tránh hoặc tránh rủi ro như thế nào? Hệ thống của bạn có ổn định và ổn định khi chịu áp lực không?
Mục An toàn trong Các phương pháp AI có trách nhiệm của Google đưa ra các phương pháp được đề xuất để bảo vệ hệ thống AI khỏi các cuộc tấn công, bao gồm cả việc kiểm thử nghịch đảo. Tìm hiểu thêm về công việc của chúng tôi trong lĩnh vực này và các bài học rút ra từ bài đăng trên blog Từ khóa, Nhóm Đỏ AI của Google: những tin tặc đạo đức tạo ra AI an toàn hơn.
Quyền riêng tư
Các phương pháp về quyền riêng tư trong AI có trách nhiệm (xem phần Quyền riêng tư của Các phương pháp AI có trách nhiệm của Google) liên quan đến việc cân nhắc những hậu quả có thể xảy ra đối với việc sử dụng dữ liệu nhạy cảm. Điều này không chỉ tôn trọng các yêu cầu pháp lý và quy định, mà còn xem xét các chuẩn mực xã hội và các kỳ vọng điển hình của cá nhân. Ví dụ: bạn cần áp dụng những biện pháp bảo vệ nào để đảm bảo quyền riêng tư của cá nhân, do các mô hình máy học có thể ghi nhớ hoặc tiết lộ các khía cạnh của dữ liệu mà họ đã tiếp xúc. Cần thực hiện các bước nào để đảm bảo người dùng có sự minh bạch và quyền kiểm soát đầy đủ đối với dữ liệu của họ?
Tìm hiểu thêm về quyền riêng tư của công nghệ máy học thông qua hướng dẫn tương tác của PAIR Explorables:
- Cách ứng phó ngẫu nhiên có thể giúp thu thập thông tin nhạy cảm một cách có trách nhiệm
- Cách công nghệ học liên kết bảo vệ quyền riêng tư
- Tại sao một số kiểu máy bị rò rỉ dữ liệu
Trí tuệ nhân tạo có trách nhiệm trong mô hình/tổng hợp
Sự ra đời của các mô hình lớn, phổ biến mang đến những thách thức mới trong việc triển khai các phương pháp AI có trách nhiệm do chúng có khả năng cung cấp các kết quả mở và nhiều khả năng sử dụng phần mềm hạ nguồn. Ngoài các Nguyên tắc về trí tuệ nhân tạo, Google còn có Chính sách về cấm sử dụng trí tuệ nhân tạo và Hướng dẫn về trí tuệ nhân tạo cho nhà phát triển.
Đọc thêm về cách các nhóm tại Google sử dụng trí tuệ nhân tạo (AI) để tạo ra trải nghiệm mới cho người dùng tại Google Generative AI. Trên trang web này, chúng tôi cũng cung cấp hướng dẫn về An toàn và công bằng, Kỹ thuật nhắc nhở, và Kiểm thử nghịch đảo cho các mô hình tổng hợp. Để xem hướng dẫn tương tác về các mô hình ngôn ngữ, hãy xem PAIR Explorable: Bạn đã học được những mô hình ngôn ngữ nào?
Tài nguyên khác
Lý do chúng tôi tập trung vào AI – Google AI
Quy trình đánh giá bằng trí tuệ nhân tạo của Google
Quy trình đánh giá các nguyên tắc về AI | Trí tuệ nhân tạo của Google: