Công ty khởi nghiệp AI có thể giải thích được Diveplane gây quỹ 25 triệu đô la để giúp các công ty hiểu rõ hơn về các thuật toán học máy

0
Công ty khởi nghiệp AI có thể giải thích được Diveplane gây quỹ 25 triệu đô la để giúp các công ty hiểu rõ hơn về các thuật toán học máy

Khởi động trí tuệ nhân tạo có thể giải thích Diveplane Corp. đang hy vọng tạo ra tác động bằng cách đưa “nhân loại” trở lại vào AI sau khi đóng vòng tài trợ mới 25 triệu đô la hôm nay.

Vòng Series A do Shield Capital dẫn đầu và có sự tham gia của Calibrate Ventures, L3Harris Technologies và Sigma Defense.

Diveplane là một công ty mới nổi trong lĩnh vực AI có thể giải thích được, đề cập đến các hệ thống giúp con người có thể hiểu và tin tưởng vào kết quả và đầu ra được tạo ra bởi các thuật toán học máy. AI có thể giải thích được thực sự là quá trình mô tả một mô hình AI, tác động của nó, cách nó đưa ra quyết định và bất kỳ thành kiến ​​tiềm ẩn nào. Nó được sử dụng để mô tả độ chính xác, công bằng, minh bạch và kết quả của mô hình trong các quy trình ra quyết định do AI hỗ trợ.

AI càng trở nên tiên tiến, con người càng có nhiều thách thức để hiểu và giải thích cách các mô hình đi đến kết luận. Quá trình này thường được gọi là “hộp đen” mà hầu như không thể giải thích được. Thật vậy, nhiều khi ngay cả các kỹ sư hoặc nhà khoa học dữ liệu đã tạo ra một thuật toán AI cũng không thể giải thích cách nó đi đến một kết quả cụ thể.

Trước những dư luận xấu về sự thiên vị AI, AI có thể giải thích được là rất quan trọng đối với các tổ chức muốn xây dựng lòng tin và sự tự tin vào các mô hình của họ. Ví dụ: nếu một công ty cho vay thế chấp đang sử dụng AI để thông báo các quyết định của mình về việc có chấp nhận một đơn xin vay hay không, thì nó sẽ mất rất nhiều uy tín nếu không giải thích được lý do tại sao những người nộp đơn từ một số nhóm nhân khẩu học ít có khả năng được chấp nhận. Có những lợi thế khác đối với khả năng giải thích của AI, chẳng hạn như giúp các nhà phát triển đảm bảo các thuật toán của họ đang hoạt động như mong đợi.

Đó là nơi Diveplane xuất hiện. Nó đã tạo ra cái mà nó gọi là “hệ thống quyết định AI có thể hiểu được” được gọi là Lò phản ứng. Nó cho phép các nhà khoa học dữ liệu và kỹ sư tạo ra các mô hình ra quyết định dựa trên các quan sát dữ liệu lịch sử có thể được tăng cường với các hoạt động hiện có. Với Diveplane, các tổ chức có thể xác định và phân tích dữ liệu có khả năng sai lệch và loại bỏ nó khỏi quá trình ra quyết định. Bằng cách này, nó có thể giúp các công ty tự động hóa nhiều tác vụ lặp đi lặp lại cần thiết để đảm bảo các thuật toán AI của họ đang hoạt động như dự định.

Diveplane cho biết việc cung cấp AI có thể giải thích được của họ được thiết kế dựa trên các nguyên tắc “dự đoán, giải thích và hiển thị” để tạo thêm niềm tin rằng các quyết định hoạt động là công bằng và minh bạch.

“Chúng tôi thành lập Diveplane với sứ mệnh đưa nhân loại trở lại với AI và chúng tôi đang thành công,” người đồng sáng lập và Giám đốc điều hành Diveplane Mike Capps cho biết. “Chúng tôi đang xây dựng quan hệ đối tác đáng tin cậy, với một bộ sản phẩm cung cấp khả năng toàn diện để đưa ra quyết định công bằng và minh bạch và bảo mật dữ liệu. Sự hỗ trợ này bổ sung thêm nhiên liệu tên lửa cho hoạt động kinh doanh của chúng tôi, vì vậy chúng tôi có thể xây dựng dựa trên cách tiếp cận thành công của mình để giúp các công ty đổi mới với nền tảng Lò phản ứng của chúng tôi. ”

Andy Thurai của Constellation Research Inc. nói với SiliconANGLE rằng quản trị dữ liệu AI luôn khó khăn đối với các doanh nghiệp. Ông nói, vấn đề là các mô hình thường được phát triển bởi các nhà khoa học dữ liệu, được triển khai và quản lý bởi các kỹ sư học máy, trong khi dữ liệu được quản lý bởi các nhóm dữ liệu.

“Diveplane muốn áp dụng quản trị dữ liệu, quyền riêng tư và kiểm soát về phía dữ liệu trước khi các mô hình được tạo ra,” Thurai nói. “Riêng việc phân tích dữ liệu thiên vị của Diveplane và loại bỏ việc tạo mô hình trong tương lai, dựa trên các điều kiện nhất định, là một tương lai thú vị. Bằng cách phân tích độ lệch so với dữ liệu ban đầu đã được sử dụng trong quá trình tạo mô hình, giải pháp có thể phát hiện sự bất thường trong các mẫu dữ liệu và hành vi, đồng thời ngăn chặn toàn bộ dữ liệu đó được đưa vào quá trình tạo mô hình ”.

Thurai nói thêm rằng việc bao gồm giám sát dữ liệu, giám sát trôi mô hình và tầm quan trọng của tính năng Diveplane cũng là duy nhất. Ông nói: “Tùy chọn khử trùng dữ liệu nhạy cảm hoặc tạo dữ liệu tổng hợp để hạn chế việc tiếp xúc với dữ liệu thực là một lựa chọn thú vị. “Mặc dù giải pháp tổng thể nghe có vẻ thú vị, nhưng đó là một thị trường đông đúc và trừ khi họ phân biệt được với các giải pháp dành riêng cho ngành, họ có thể bị thua khá nhanh khi cạnh tranh với những người chơi lớn hơn”.

Diveplane cho biết số tiền từ vòng đấu hôm nay sẽ được sử dụng để mở rộng khả năng của nền tảng của nó đồng thời tạo điều kiện cho tăng trưởng có mục tiêu. “Chris, Mike và nhóm Diveplane đang xây dựng một nền tảng công nghệ hàng đầu để sử dụng sức mạnh của AI đồng thời bảo vệ quyền riêng tư và khả năng giải thích”, Raj Shah, Đối tác quản lý của Shield Capital cho biết.

Hình ảnh: Diveplane

Hãy thể hiện sự ủng hộ của bạn đối với sứ mệnh của chúng tôi bằng cách tham gia Câu lạc bộ Cube và Cộng đồng sự kiện Cube gồm các chuyên gia. Tham gia cộng đồng bao gồm Amazon Web Services và Giám đốc điều hành Amazon.com Andy Jassy, ​​người sáng lập kiêm Giám đốc điều hành Dell Technologies, Michael Dell, Giám đốc điều hành Intel Pat Gelsinger và nhiều chuyên gia và nhân vật nổi tiếng khác.

bài viết tương tự

Leave a Reply