Cách các nhà lãnh đạo CNTT có thể nắm bắt AI có trách nhiệm

0
Cách các nhà lãnh đạo CNTT có thể nắm bắt AI có trách nhiệm

Khi trí tuệ nhân tạo tăng cường hoặc thậm chí thay thế các quyết định của con ngườinó khuếch đại các kết quả tốt và xấu như nhau.

Có rất nhiều rủi ro và tác hại tiềm ẩn do các hệ thống AI tạo ra, bao gồm thành kiến ​​và phân biệt đối xử, tổn thất tài chính hoặc danh tiếng, thiếu minh bạch và khả năng giải thích hoặc xâm phạm an ninh và quyền riêng tư. AI có trách nhiệm mang lại kết quả phù hợp bằng cách giải quyết các tình huống khó xử bắt nguồn từ việc cung cấp giá trị thay vì chấp nhận rủi ro.

AI có trách nhiệm phải là một phần của chiến lược AI rộng lớn hơn của tổ chức. Đây là các bước giám đốc thông tin và lãnh đạo công nghệ thông tinhợp tác với dẫn đầu về dữ liệu và phân tíchcó thể thực hiện để phát triển tổ chức của họ hướng tới tầm nhìn về AI có trách nhiệm.

Xác định AI có trách nhiệm

AI có trách nhiệm là một thuật ngữ bao trùm về các khía cạnh của việc đưa ra các lựa chọn kinh doanh và đạo đức phù hợp khi áp dụng AI. Nó bao gồm các quyết định xoay quanh giá trị kinh doanh và xã hội, rủi ro, lòng tin, tính minh bạch, công bằng, thiên vị, giảm thiểu, khả năng giải thích, trách nhiệm giải trình, an toàn, quyền riêng tư, tuân thủ quy định và hơn thế nữa.

Trước khi các tổ chức thiết kế chiến lược AI của họ, họ phải xác định AI có trách nhiệm nghĩa là gì trong bối cảnh môi trường của tổ chức của họ. Có nhiều khía cạnh của AI có trách nhiệm, nhưng Gartner nhận thấy 5 nguyên tắc phổ biến nhất trong các tổ chức khác nhau.

Những nguyên tắc này xác định AI có trách nhiệm là:

  • Lấy con người làm trung tâm và mang lại lợi ích cho xã hộiphục vụ các mục tiêu của con người và hỗ trợ tự động hóa có đạo đức và hiệu quả hơn trong khi dựa trên sự tiếp xúc và ý thức chung của con người.
  • Công bằng để các cá nhân hoặc nhóm không bị thiệt thòi một cách có hệ thống thông qua các quyết định do AI điều khiển, đồng thời giải quyết vấn đề hòa tan, cô lập và phân cực giữa những người dùng.
  • Minh bạch và có thể giải thích được để xây dựng lòng tin, sự tự tin và hiểu biết trong các hệ thống AI.
  • Bảo mật và an toàn để bảo vệ lợi ích và quyền riêng tư của các tổ chức và mọi người trong khi họ tương tác với các hệ thống AI trên các khu vực pháp lý khác nhau.
  • Có trách nhiệm để tạo ra các kênh truy đòi và thiết lập quyền cho các cá nhân.

Hiểu cách AI có trách nhiệm mang lại lợi ích cho doanh nghiệp

Một thành phần quan trọng của hành trình AI có trách nhiệm đòi hỏi việc đưa ra các thay đổi cho các bên liên quan chính. Có một chiến lược rõ ràng cho AI có trách nhiệm và truyền đạt lợi ích kinh doanh cho lãnh đạo điều hành sẽ giúp CNTT đạt được các mục tiêu mà nó đề ra với AI. Điều này đòi hỏi phải hiểu AI có trách nhiệm có thể mang lại lợi ích như thế nào cho doanh nghiệp.

AI có trách nhiệm hỗ trợ doanh nghiệp bằng cách giúp giải quyết những bất ổn để duy trì niềm tin vào AI. Ví dụ: AI có trách nhiệm giúp các tổ chức chủ động đi trước đường cong quy định, mang lại lợi ích cho sự tín nhiệm của doanh nghiệp với khách hàng, đối tác và các bên liên quan chính khác.

Trong toàn doanh nghiệp, AI có trách nhiệm tạo ra giá trị bằng cách tăng cường áp dụng AI trong khi lập bản đồ thay đổi mức độ rủi ro. Điều này nâng cao giá trị của nhân viên, khách hàng và xã hội thông qua việc tăng cường độ an toàn, độ tin cậy và tính bền vững, giúp làm cho AI lấy con người làm trung tâm và hòa nhập hơn.

Cuối cùng, một chương trình AI có trách nhiệm hỗ trợ các nhóm phát triển và thực thi. Sử dụng các phương pháp và kỹ thuật giảm thiểu sự thiên vị trong việc lấy mẫu, tôn trọng quyền riêng tư của người dùng và có thể giải thích được có thể giúp đảm bảo tính công bằng của từng cá nhân, cũng như đại diện công bằng, độ chính xác và sai sót. Các nhà phát triển AI có thể đảm bảo các mô hình an toàn và có khả năng phục hồi với các chu kỳ kiểm tra, thử nghiệm lại và cập nhật kỹ lưỡng cho các cuộc tấn công và lỗ hổng thông qua kiểm tra căng thẳng và xác thực.

Tạo một lộ trình AI có trách nhiệm

Khi lợi ích kinh doanh được hiểu rõ, hãy xây dựng một lộ trình AI có trách nhiệm bằng cách xác định các lỗ hổng trong chiến lược hiện tại.

Các tổ chức thường bắt đầu với cách tiếp cận đặc biệt, mang tính chất phản ứng và giải quyết những thách thức do hệ thống AI đặt ra khi đang di chuyển. Điều này hoạt động như một giải pháp khắc phục tạm thời và thường ngày càng trở nên khó khăn hơn theo thời gian vì các tổ chức phải bắt kịp các quy định hiện hành để đảm bảo tuân thủ. Mặc dù cách tiếp cận này có thể phù hợp với các tổ chức nhỏ hơn, nhưng nó có thể không khả thi khi các hệ thống ngày càng trở nên đan xen và phức tạp hơn.

Bước tiến hóa tiếp theo sẽ là một cách tiếp cận chủ động, nơi CNTT đánh giá và chấp nhận rủi ro có cấu trúc. Tuy nhiên, để thu được nhiều lợi ích nhất từ ​​AI, các tổ chức phải áp dụng phương pháp tiếp cận phổ biến nhằm xem xét các rủi ro hiện tại so với các lợi ích hoặc rủi ro trong tương lai hoặc hoãn lại.

Sau khi các tổ chức đánh giá trạng thái hiện tại của AI có trách nhiệm, các nhà lãnh đạo CNTT có thể bắt đầu xây dựng các mục tiêu và tầm nhìn của họ. Bắt đầu với một con đường nền tảng, xem xét lại chiến lược và tầm nhìn cho AI và làm việc để chuyển từ cách tiếp cận đặc biệt sang cách tiếp cận có cấu trúc. Lập kế hoạch phát triển và thực hiện AI có trách nhiệm xung quanh các nguồn lực hiện có và tập trung vào việc truyền đạt giá trị kinh doanh cho các bên liên quan chính. Đặt nền tảng cho sự tin tưởng của AI và tăng cường sự chấp nhận trong toàn tổ chức.

Sau khi con đường nền tảng đạt được, các tổ chức có thể bắt tay vào con đường ổn định. Tập trung vào việc trở nên chủ động hơn một cách nhất quán và tăng khả năng kiểm tra và xác thực để đảm bảo tính bảo mật và quyền riêng tư mạnh mẽ.

Cuối cùng, các tổ chức đã phát triển theo hành trình AI có trách nhiệm của họ có thể bắt đầu trên con đường chuyển đổi, trở thành nhà lãnh đạo tư tưởng hỗ trợ AI vì mục tiêu tốt. Giai đoạn chuyển đổi dành cho các tổ chức muốn tạo ra một cách tiếp cận tự duy trì để đối phó với AI, nơi các cuộc trò chuyện và hành động tập trung vào con người làm trung tâm và tính bền vững.

Bất kỳ tổ chức nào bắt tay vào sáng kiến ​​AI đều phải tuân theo cách tiếp cận có cấu trúc này để hiểu, sử dụng và triển khai các thực hành AI có trách nhiệm theo ngữ cảnh cho doanh nghiệp của họ. Hành trình hướng tới AI có trách nhiệm sẽ là một hành trình phát triển khi những thách thức mới nảy sinh, nhưng nó ngày càng trở nên quan trọng khi AI trở nên phổ biến hơn trong doanh nghiệp và xã hội.

Farhan Choudhary là nhà phân tích chính tại Gartner Inc. nghiên cứu việc vận hành các mô hình học máy và AI, tuyển dụng và nâng cao kỹ năng cũng như các kỹ thuật để vận hành và đạt được thành công với các sáng kiến ​​khoa học dữ liệu, học máy và AI. Anh ấy đã viết bài báo này cho SiliconANGLE. Các nhà phân tích của Gartner sẽ cung cấp thêm thông tin chi tiết về AI và các chủ đề chính khác cho CIO tại Hội nghị chuyên đề CNTT của Gartner / Xpo 2022diễn ra từ ngày 17 đến 20 tháng 10 tại Orlando, Florida.

Hình ảnh: Gartner

Hãy thể hiện sự ủng hộ của bạn đối với sứ mệnh của chúng tôi bằng cách tham gia Câu lạc bộ Cube và Cộng đồng sự kiện Cube gồm các chuyên gia. Tham gia cộng đồng bao gồm Amazon Web Services và Giám đốc điều hành Amazon.com Andy Jassy, ​​người sáng lập kiêm Giám đốc điều hành Dell Technologies, Michael Dell, Giám đốc điều hành Intel Pat Gelsinger và nhiều chuyên gia và nhân vật nổi tiếng khác.

bài viết tương tự

Leave a Reply