Trí tuệ nhân tạo (AI) ngày càng phổ biến trong các ứng dụng và thiết bị chúng ta dùng hằng ngày, những trợ lý số, ứng dụng điện thoại, trên xe, trong nhà và những sản phẩm thông minh khác. Có rất nhiều định nghĩa về AI nhưng chúng ta có thể nghĩ AI là phần mềm mô phỏng được một hoặc vài đặc điểm của con người như sau

1. Nhận thức trực quan (visual perception)

Dùng những khả năng của Computer Vision để tiếp nhận, diễn dịch và xử lý hình ảnh, video hoặc từ các camera

2. Phân tích và chuyển đổi chữ (text analysis and conversion)

Dùng những khả năng của Natural Language Processing (NPL) để đọc và sinh ra những phản hồi dạng text giống người hoặc rút trích ra những ngữ nghĩa trong text

3. Hội thoại (speech)

Khả năng nhận dạng hội thoại như đầu vào và tổng hợp thành hội thoại xuất ra. Sự kết hợp giữa tính năng nhận dạng hội thoại với NPL cho phép giao tiếp giữa người và máy trở nên tự nhiên Conversational AI như giữa người với người

4. Ra quyết định (decision making)

Khả năng sử dụng kinh nghiệm cũ và các mối tương quan đã học để đánh giá tình huống và đưa ra hành động phù hợp. Ví dụ như nghe tiếng động cơ phát hiện ra vấn đề và lên cảnh báo

Những khả năng này đang được mở rộng hằng ngày làm cho AI thông minh và hữu dụng hơn và ứng dụng rộng rãi

AI được xây từ khoa học dữ liệu

Data Science

Tập trung vào xử lý và phân tích dữ liệu, dùng các kĩ thuật thống kê để khám phá và trực quan hóa các mối quan hệ và mẫu (pattern) trong dữ liệu, đồng thời các mô hình (model) thử nghiệm để khám phá các mẫu đó

Machine learning

Là tập con của Data Science liên quan đến việc đào tạo và xác nhận mô hình dự đoán. Nhà khoa học dữ liệu sẽ chuẩn bị dữ liệu, sau đó dùng nó để huấn luyện mô hình dựa trên thuật toán khai thác các tính năng (feature) của dữ liệu để dự đoán giá trị cho các nhãn (label) chưa xác định

AI

Thường được xây trên ML để tạo ra phần mềm mô phỏng đặc điểm trí thông minh của con người

Phát triển với AI

• Cần biết cách tích hợp khả năng AI vào phần mềm

Trong thời đại mà mở mắt ra là thấy một ứng dụng mới có AI, các kĩ sư cần phải biết cách tích hợp vào càng nhanh càng tốt để tạo ra sản phẩm.

• Tích hợp các khối AI nhỏ thành tính năng phức tạp

Không cần trở thành một nhà khoa học dữ liệu để dùng AI, các mô hình đơn giản cung cấp miễn phí rất nhiều và bạn sẽ lắp ghép chúng lại để tạo thành ứng dụng thực tiễn

Đào tạo và suy luận mô hình

Nhiều hệ thống AI sự vào mô hình dự đoán phải được đào tạo bằng dữ liệu (sample data). Quá trình đào tạo sẽ phân tích dữ liệu và xác định mối quan hệ giữa các feature (giá trị thường xuất hiện trong các quan sát mới) và label (giá trị mà mô hình đang đào tạo để dự đoán)

Sau khi đào tạo mô hình, bạn sẽ gửi dữ liệu mới gồm các feature đã biết và yêu cầu dự đoán về khả năng của các nhãn. Đây gọi là suy luận

Xác suất và điểm tin cậy

Một mô hình ML được huấn luyện tốt có thể chính xác nhưng không có mô hình dự đoán nào là không thể sai lầm.

Các dự đoán do mô hình ML đưa ra dựa trên xác suất và mặc dù các kỹ sư phần mềm không yêu cầu hiểu biết toán học sâu sắc về lý thuyết xác suất nhưng điều quan trọng là phải hiểu rằng các dự đoán phản ánh khả năng thống kê chứ không phải sự thật tuyệt đối.

Trong hầu hết các trường hợp, các dự đoán có điểm tin cậy liên quan phản ánh xác suất đưa ra dự đoán. Các nhà phát triển phần mềm nên sử dụng các giá trị điểm tin cậy để đánh giá các dự đoán và áp dụng các ngưỡng thích hợp nhằm tối ưu hóa độ tin cậy của ứng dụng và giảm thiểu rủi ro của các dự đoán có thể được đưa ra dựa trên xác suất cận biên.

Trách nhiệm và đạo đức của AI

Điều quan trọng đối với các kỹ sư phần mềm là phải xem xét tác động của phần mềm của họ đối với người dùng và xã hội nói chung; bao gồm cả những cân nhắc về mặt đạo đức khi sử dụng nó.

Khi ứng dụng được tích hợp trí tuệ nhân tạo, những cân nhắc này đặc biệt quan trọng do bản chất của cách hệ thống AI hoạt động và đưa ra quyết định; thường dựa trên các mô hình xác suất, do đó chúng phụ thuộc vào dữ liệu mà chúng được đào tạo.

Bản chất giống con người của các giải pháp AI là một lợi ích đáng kể trong việc làm cho ứng dụng trở nên thân thiện với người dùng, nhưng nó cũng có thể khiến người dùng đặt nhiều niềm tin vào khả năng đưa ra quyết định chính xác của ứng dụng. Khả năng gây hại cho các cá nhân hoặc nhóm thông qua dự đoán không chính xác hoặc lạm dụng khả năng AI là mối quan tâm lớn và các kỹ sư phần mềm xây dựng các giải pháp hỗ trợ AI nên áp dụng cân nhắc thích đáng để giảm thiểu rủi ro và đảm bảo tính công bằng, độ tin cậy và sự bảo vệ đầy đủ khỏi tác hại hoặc phân biệt đối xử.

Công bằng

Hệ thống AI nên đối xử công bằng với tất cả mọi người. Ví dụ: giả sử bạn tạo mô hình ML để hỗ trợ ứng dụng phê duyệt khoản vay cho ngân hàng. Mô hình nên đưa ra dự đoán về việc khoản vay có nên được phê duyệt hay không mà không đưa ra bất kỳ thành kiến nào dựa trên giới tính, dân tộc hoặc các yếu tố khác có thể dẫn đến lợi thế hoặc bất lợi không công bằng cho các nhóm người nộp đơn cụ thể.

Tính công bằng của các hệ thống ML là một lĩnh vực đang được nghiên cứu rất tích cực và hiện có một số giải pháp phần mềm để đánh giá, định lượng và giảm thiểu sự không công bằng trong các mô hình máy học. Tuy nhiên, chỉ sử dụng công cụ thôi thì chưa đủ để đảm bảo sự công bằng. Xem xét sự công bằng ngay từ đầu quá trình phát triển ứng dụng; xem xét cẩn thận dữ liệu đào tạo để đảm bảo dữ liệu đó đại diện cho tất cả các đối tượng có khả năng bị ảnh hưởng và đánh giá hiệu suất dự đoán cho các phần phụ trong nhóm người dùng của bạn trong suốt vòng đời phát triển.

Tin cậy và an toàn

Hệ thống AI phải hoạt động đáng tin cậy và an toàn. Ví dụ, hãy xem xét một hệ thống phần mềm dựa trên AI cho một chiếc xe tự lái; hoặc mô hình học máy chẩn đoán các triệu chứng của bệnh nhân và đề xuất đơn thuốc. Sự không đáng tin cậy trong các loại hệ thống này có thể dẫn đến rủi ro đáng kể cho cuộc sống con người.

Giống như bất kỳ phần mềm nào, việc phát triển ứng dụng phần mềm dựa trên AI phải trải qua các quy trình quản lý triển khai và thử nghiệm nghiêm ngặt để đảm bảo rằng chúng hoạt động như mong đợi trước khi phát hành. Ngoài ra, các kỹ sư phần mềm cần tính đến tính chất xác suất của các mô hình học máy và áp dụng các ngưỡng thích hợp khi đánh giá điểm tin cậy cho các dự đoán.

Quyền riêng tư và bảo mật

Hệ thống AI phải được bảo mật và tôn trọng quyền riêng tư. Các mô hình học máy mà hệ thống AI dựa trên dựa trên khối lượng dữ liệu lớn, có thể chứa các thông tin cá nhân phải được giữ kín. Ngay cả sau khi các mô hình được đào tạo và hệ thống đang được sản xuất, chúng vẫn sử dụng dữ liệu mới để đưa ra dự đoán hoặc thực hiện hành động có thể liên quan đến quyền riêng tư hoặc bảo mật; vì vậy phải thực hiện các biện pháp bảo vệ thích hợp để bảo vệ dữ liệu và nội dung của khách hàng.

Tính toàn diện

Hệ thống AI sẽ trao quyền cho mọi người và thu hút mọi người. AI sẽ mang lại lợi ích cho mọi thành phần trong xã hội, bất kể khả năng thể chất, giới tính, khuynh hướng tình dục, sắc tộc hay các yếu tố khác.

Một cách để tối ưu hóa tính toàn diện là đảm bảo rằng thiết kế, phát triển và thử nghiệm ứng dụng của bạn bao gồm thông tin đầu vào từ nhiều nhóm người nhất có thể.

Minh bạch

Hệ thống AI phải dễ hiểu. Người dùng phải được biết đầy đủ về mục đích của hệ thống, cách thức hoạt động và những hạn chế có thể xảy ra.

Ví dụ: khi hệ thống AI dựa trên mô hình ML, bạn nên thông báo cho người dùng biết các yếu tố có thể ảnh hưởng đến độ chính xác của dự đoán của nó, chẳng hạn như số trường hợp được sử dụng để huấn luyện mô hình hoặc các tính năng cụ thể có ảnh hưởng nhiều nhất đến dự đoán của nó. Bạn cũng nên chia sẻ thông tin về điểm tin cậy cho các dự đoán.

Khi ứng dụng AI dựa vào dữ liệu cá nhân, chẳng hạn như hệ thống nhận dạng khuôn mặt lấy hình ảnh của mọi người để nhận dạng chúng; bạn nên nói rõ cho người dùng biết dữ liệu của họ được sử dụng và lưu giữ như thế nào cũng như ai có quyền truy cập vào dữ liệu đó.

Trách nhiệm và giải trình

Mọi người phải chịu trách nhiệm về hệ thống AI. Mặc dù nhiều hệ thống AI dường như hoạt động tự chủ, nhưng cuối cùng, trách nhiệm của các nhà phát triển là người đã đào tạo và xác thực các mô hình mà họ sử dụng, đồng thời xác định logic làm cơ sở cho các quyết định dựa trên dự đoán mô hình để đảm bảo rằng hệ thống tổng thể đáp ứng các yêu cầu về trách nhiệm.

Để giúp đạt được mục tiêu này, các nhà thiết kế và phát triển giải pháp dựa trên AI phải làm việc trong khuôn khổ quản trị và các nguyên tắc tổ chức nhằm đảm bảo giải pháp đáp ứng các tiêu chuẩn đạo đức và pháp lý đã được xác định rõ ràng.