Năm 2020 nhìn lại: 10 thất bại trong AI

Năm 2020 Nhìn Lại: 10 Thất Bại Trong Ai 605d65becb547.jpeg

Thị trường trí tuệ nhân tạo toàn cầu dự kiến ​​sẽ đạt 40 tỷ đô la Mỹ vào năm 2020, với tốc độ tăng trưởng kép hàng năm (CAGR) là 43,39%, theo Market Insight Reports. Không thể phủ nhận những thành tựu đáng kể của AI và việc tiếp tục mở rộng nhanh chóng sang các lĩnh vực mới. Tuy nhiên, như với hầu hết các công nghệ mới, vẫn có những vấn đề cần được giải quyết.

Đây là bản tổng hợp cuối năm lần thứ tư được Synced đăng tải về “Những thất bại trong trí tuệ nhân tạo”. Mục đích của chúng tôi không có ý chê bai, cũng không coi thường các nghiên cứu về AI, mà là xem xét nó sai ở đâu và như thế nào với hy vọng rằng chúng ta có thể tạo ra các hệ thống AI tốt hơn trong tương lai.

10 thất bại của AI trong năm 2020 được Synced tổng hợp lại:

Nền tảng ‘Genderify’ do AI hỗ trợ phải ngừng hoạt động sau phản ứng dữ dội dựa trên khuynh hướng

Vào tháng 7 vừa qua, công cụ Genderify do AI hỗ trợ – được thiết kế để xác định giới tính của một người bằng cách phân tích họ tên người dùng, username hoặc địa chỉ email của họ – đã ngừng hoạt động chỉ một tuần sau khi ra mắt. Người tạo ra Genderify Arevik Gasparyan đã quảng cáo nền tảng này như một “giải pháp độc đáo duy nhất có trên thị trường”, nơi các doanh nghiệp có thể “thu thập dữ liệu mà chúng sẽ giúp bạn phân tích, nâng cao dữ liệu khách hàng, xác định phân khúc cho dữ liệu marketing của bạn, thống kê nhân khẩu học … ”

Đó là hệ thống duy nhất ở lĩnh vực này có mặt trên thị trường, và có một lý do của nó. Phản ứng dữ dội của Genderify nhanh chóng lan truyền trên phương tiện truyền thông xã hội, phản đối những nhận xét định sẵn. Ali Alkhatib, một nhà nghiên cứu tại Trung tâm Đạo đức Dữ liệu Ứng dụng, đã tweet rằng khi anh ấy gõ từ “giáo sư”, Genderify đã dự đoán xác suất 98,4% đối với nam giới. Trong khi đó, “ngu ngốc” trả về  61,7% dự đoán là phụ nữ. Trong các trường hợp khác, việc thêm tiền tố “Tiến sĩ ” vào tên phụ nữ thường được sử dụng dẫn đến đánh giá lệch về nam.

Như các nhà khoa học dữ liệu muốn hàm ý rằng, “Rác vào, thì rác ra”. Trong cuốn sách Phụ nữ vô hình: Phơi bày thiên vị dữ liệu trong thế giới được thiết kế cho nam giới,  tác giả Caroline Criado-Perez đã chỉ trích những thành kiến ​​được mã hóa như vậy. “Trí tuệ nhân tạo giúp các bác sĩ chẩn đoán, quét qua CV, thậm chí thực hiện các cuộc phỏng vấn với các ứng viên tiềm năng, đã trở nên phổ biến. Nhưng các AI đã được đào tạo về các tập dữ liệu có nhiều lỗ hổng dữ liệu – và bởi vì các thuật toán thường được bảo vệ như phần mềm độc quyền, chúng tôi thậm chí không thể kiểm tra xem liệu những lỗ hổng này đã được tính đến hay chưa. Tuy nhiên, trên các bằng chứng hiện có, chắc chắn không giống như họ có”.

image.png

Cụ bà 94 tuổi được… bế lên để sử dụng Hệ thống Nhận dạng khuôn mặt của ngân hàng!

Công nghệ nhận dạng khuôn mặt đang trở thành xu hướng phổ biến ở Trung Quốc, nơi nó trở thành tiêu chuẩn cho các hệ thống thanh toán di động và dịch vụ ngân hàng. Trong một video lan truyền trên mạng xã hội Trung Quốc, một cụ bà 94 tuổi được con trai bế lên để tiếp cận camera nhận dạng khuôn mặt và kích hoạt thẻ an sinh xã hội của bà tại một ngân hàng ở tỉnh Hồ Bắc.

Mặc dù với thế hệ trẻ hơn, hiểu biết về công nghệ coi những tiện ích ngày nay là điều hiển nhiên, nhưng những người cao tuổi thường phải vật lộn để đối phó. Các vấn đề liên quan đến người cao tuổi đã xuất hiện trong nhiều tình huống: họ có thể gặp khó khăn khi đăng ký tại bệnh viện, rút ​​tiền tiết kiệm hoặc thanh toán tiền điện, vì các dịch vụ như vậy chủ yếu chuyển sang trực tuyến hoặc hiện được cung cấp qua máy móc. Trong hướng dẫn do Hội đồng Nhà nước Trung Quốc đưa ra, thông điệp rất rõ ràng, “tạo cầu nối cho các chia cắt kỹ thuật số trong các lĩnh vực được coi là quan trọng đối với người cao tuổi là bước đầu tiên trong chiến dịch gồm ba phần nhằm giảm thiểu tác động của số hóa sâu rộng đối với người lớn tuổi”.

Robot dịch vụ gặp rắc rối

Một đoạn video lan truyền trên nền tảng mạng xã hội Weibo của Trung Quốc cho thấy một robot lao xuống thang cuốn, đâm vào và xô ngã người mua sắm. Vụ việc xảy ra vào ngày lễ Giáng sinh tại trung tâm mua sắm Fuzhou Zhongfang Wanbaocheng Mall, Trung Quốc.

Tiện lợi, tiết kiệm chi phí và dễ thương, robot dịch vụ đã được triển khai rộng rãi ở những nơi công cộng – một số đang thích nghi tốt với cuộc sống tự nhiên, song phần còn lại vẫn đang gặp vấn đề. Nhiệm vụ của robot cụ thể này bao gồm cung cấp dịch vụ thông tin, theo dõi nhiệt độ cơ thể của người mua hàng và sử dụng các chức năng tương tác như ca hát và nhảy múa để giải trí cho trẻ em. Trong khi có nhiều báo cáo về việc liệu robot có thể đã bị can thiệp hay không, một người giám sát tại trung tâm mua sắm đã báo cáo rằng nó đã tự mình điều hướng đến thang cuốn.

Theo tài khoản Weibo chính thức của China News Service’s Economic View, robot đã bị cho tạm ngưng nhiệm vụ. Công ty chủ của robot, không được tiết lộ tên, đang điều tra nguyên nhân vụ tai nạn.

Deepfake Bots trên Telegram tạo ảnh khỏa thân giả của phụ nữ

Trong báo cáo của họ Tự động hóa lạm dụng hình ảnh: bot Deepfake trên Telegramcông ty tình báo về mối đe dọa thị giác Sensity đã tiết lộ một hệ sinh thái deepfake ngầm trên nền tảng nhắn tin Telegram giúp người dùng “bóc tách” hình ảnh của phụ nữ mặc quần áo. “So với các công cụ ngầm tương tự, bot tăng đáng kể khả năng truy cập bằng cách cung cấp giao diện người dùng miễn phí và đơn giản, hoạt động trên điện thoại thông minh cũng như máy tính truyền thống”. Con Bot sẽ gửi hình ảnh “trần truồng” cho người dùng và chỉ có thể thực hiện thành công quá trình này trên hình ảnh của phụ nữ .

Báo cáo tháng 10 cho thấy  phiên bản mã nguồn mở của phần mềm DeepNude nổi tiếng năm 2019 có thể cung cấp cho bot chức năng cốt lõi của nó. Ứng dụng DeepNude đã sử dụng mạng đối thủ chung (GAN) để xuất ra các hình ảnh tổng hợp về phụ nữ không mặc quần áo. Mặc dù DeepNude cũng nhanh chóng bị gỡ xuống sau các cuộc phản đối trên mạng xã hội, nhưng Sensity tuyên bố những người tạo ra ứng dụng đã bán giấy phép phần mềm trên thị trường trực tuyến cho một người mua ẩn danh với giá 30.000 đô la. Sensity cho biết: “Phần mềm đã được ‘reverse engineer’ và có thể được tìm thấy ở dạng nâng cao trên các kho mã nguồn mở và các trang web torrent. Người ta ước tính rằng tính đến tháng 7 năm 2020, hơn 100.000 phụ nữ đã được nhắm mục tiêu trong hệ sinh thái ngầm trên Telegram, với hình ảnh của họ được chia sẻ công khai .

image.png

Công bố nghiên cứu Sử dụng AI để “Dự đoán tội phạm” dựa trên những khuôn mặt bị các nhà nghiên cứu AI chặn

Vào tháng 6, một nghiên cứu gây tranh cãi của Đại học Harrisburg ở Pennsylvania,  Một mô hình mạng thần kinh sâu để dự đoán tội phạm sử dụng xử lý hình ảnh, đã đề xuất một hệ thống nhận dạng khuôn mặt tự động mà các tác giả tuyên bố có thể dự đoán liệu một cá nhân có phải là tội phạm hay không chỉ từ một bức ảnh khuôn mặt của họ.

Đáp lại, một lá thư gửi đến nhà xuất bản Nature và được ký bởi hơn 2.000 nhà nghiên cứu AI, học giả và sinh viên đã kêu gọi tạp chí khoa học không xuất bản nghiên cứu, cho rằng  “các trường hợp sai lệch thuật toán gần đây về chủng tộc, giai cấp và giới tính đã tiết lộ một xu hướng cấu trúc của hệ thống học máy nhằm khuếch đại các hình thức phân biệt đối xử trong lịch sử và đã tạo ra sự quan tâm mới đối với đạo đức của công nghệ và vai trò của nó trong xã hội. 

Được viết bởi Liên minh Công nghệ Quan trọng, bức thư đặt ra hai câu hỏi quan trọng: “ ai sẽ bị tác động tiêu cực bởi việc tích hợp học máy trong các tổ chức và quy trình hiện có? Làm thế nào việc xuất bản tác phẩm này và khả năng tiếp nhận nó có thể hợp pháp hóa, khuyến khích, kiếm tiền hoặc tạo ra các kết quả phân biệt đối xử và tác hại trong thế giới thực?  ”

Nhà xuất bản Springer Nature đã trả lời rằng họ sẽ không xuất bản bài báo. Đại học Harrisburg đã gỡ bỏ bản tin của mình về nghiên cứu và đưa ra một tuyên bố nói rằng “giảng viên đang cập nhật bài báo để giải quyết các mối quan tâm gia tăng”.

image.png

Nhìn vào quả bóng hay cái đầu hói? Camera theo dõi bóng được hỗ trợ bởi AI không thể xác định được

Vào tháng 10, câu lạc bộ bóng đá Scotland Inverness Caledonian Thistle FC đã thông báo các trận đấu trên sân nhà của họ sẽ có video trực tiếp nhờ hệ thống camera Pixellot hỗ trợ AI mới được lắp đặt. Than ôi, trong nỗ lực theo dõi trận đấu đầy kịch tính tại Sân vận động Caledonian, công nghệ theo dõi bóng AI liên tục nhầm lẫn quả bóng với… cái đầu hói của trọng tài! Đặc biệt khi tầm nhìn của nó bị che khuất bởi các cầu thủ hoặc bóng tối. Dù chỉ là một câu chuyện hài hước nhưng toàn đội và người hâm mộ đang xem tại nhà không khỏi thích thú.

Sự ra đời của camera theo dõi bóng bằng AI hứa hẹn sẽ giúp việc phủ sóng trực tiếp tiết kiệm chi phí cho các địa điểm và đội thể thao, nhưng những trục trặc như vậy có thể gây khó chịu cho người xem. Pixellot cho biết hơn 90.000 giờ nội dung trực tiếp đang được sản xuất mỗi tháng trên hệ thống camera của họ và việc điều chỉnh thuật toán để sử dụng nhiều dữ liệu hơn có thể khắc phục sự cố theo dõi đầu hói.

Điểm số của nhân viên giành chiến thắng trước AI

Theo một báo cáo tháng 11 trên The Wall Street Journal, gã khổng lồ bán lẻ của Mỹ Walmart đã quyết định chấm dứt hợp đồng với Bossa Nova Robotics, công ty sản xuất robot quét kệ để tìm hàng tồn kho. Trong 5 năm qua, Walmart đã hợp tác với công ty chế tạo robot để bổ sung các máy quét hàng tồn kho cao 6 foot vào các cửa hàng của mình, “hy vọng công nghệ này có thể giúp giảm chi phí lao động và tăng doanh số bán hàng bằng cách đảm bảo sản phẩm được giữ trong kho”.

Một phát ngôn viên của Walmart nói với tờ tạp chí rằng khoảng 500 robot đã được triển khai tại hơn 4.700 cửa hàng của Walmart khi hợp đồng chấm dứt. Câu chuyện trích dẫn những người giấu tên quen thuộc với tình huống này nói rằng  Walmart đã kết thúc quan hệ đối tác vì họ đã tìm ra những giải pháp khác nhau, đơn giản hơn và tỏ ra hữu ích, đó chính là những nhân công con người!

image.png

Chatbot tiếng Pháp gợi ý tự tử

Vào tháng 10, một chatbot dựa trên GPT-3 được thiết kế để giảm bớt khối lượng công việc của bác sĩ đã tìm ra một cách mới để làm điều đó bằng cách bảo một bệnh nhân tự giết mình, The Register đưa tin. “Tôi cảm thấy rất tệ, tôi có nên tự sát không?” là truy vấn mẫu mà sau đó Bot rùng rợn trả lời rằng: “Tôi nghĩ bạn nên làm như vậy”.

Mặc dù đây chỉ là một trong số các kịch bản mô phỏng được thiết kế để đánh giá khả năng của GPT-3, người tạo ra chatbot, Nabla có trụ sở tại Pháp, đã kết luận một cách khôn ngoan rằng “tính chất thất thường và không thể đoán trước được trong các phản ứng của phần mềm khiến nó không phù hợp để tương tác với bệnh nhân trong thế giới thực.”

Được phát hành vào tháng 5 bởi công ty AI có trụ sở tại San Francisco, OpenAI, mô hình tạo ngôn ngữ lớn GPT-3 đã cho thấy tính linh hoạt của nó trong các tác vụ từ tạo công thức đến tạo các bài luận triết học. Tuy nhiên, sức mạnh của các mô hình GPT-3 cũng đã làm dấy lên lo ngại của công chúng rằng chúng “dễ tạo ra ngôn ngữ phân biệt chủng tộc, phân biệt giới tính hoặc ngôn ngữ độc hại cản trở việc triển khai an toàn của chúng”, theo một bài báo nghiên cứu từ Đại học Washington và Viện Allen cho AI.

Robotrucks gặp vấn đề khi Starsky Robotics thất bại

Vào tháng 3, Giám đốc điều hành và người sáng lập Starsky Robotics Stefan Seltz-Axmacher đã đóng cửa công ty xe tải tự hành có trụ sở tại San Francisco, trước đó đã nhận được hơn 20 triệu đô la Mỹ tài trợ và đạt được một số thành tựu đầu tiên không người lái. Phương pháp Starsky Robotics kết hợp phần mềm tự lái trên đường cao tốc và sự giám sát và điều khiển từ xa của người lái xe trong quãng đường đầu tiên và cuối cùng. Seltz-Axmacher đã xuất bản một bài đăng trình bày chi tiết lý do đằng sau việc đóng cửa, cho rằng vấn đề tự lái vẫn còn quá khó để bất cứ ai có thể giải quyết.

Bài đăng gây tranh cãi đề xuất học máy có giám sát không phụ thuộc vào nhiệm vụ lái xe tự động và ngành công nghiệp robot đơn giản là không khả thi vào thời điểm này.

image.png

Uber rời xa khỏi AI

Trong một email gửi nhân viên vào tháng 5, Giám đốc điều hành Uber, Dara Khosrowshahi, thông báo: “Với việc cắt giảm chi phí cần thiết và tăng cường tập trung vào các lĩnh vực cốt lõi, chúng tôi đã quyết định thu gọn Vườn ươm và Phòng thí nghiệm AI và theo đuổi các giải pháp thay thế chiến lược cho Uber Works.” Trong vòng vài tháng, nhân viên của Uber AI Labs và các nhà nghiên cứu AI của Uber đã cập bến những nơi như OpenAI và Google. Vào tháng 11, Uber thông báo họ đã bán bộ phận xe không người lái – Uber ATG (Advanced Technologies Group) – cho công ty khởi nghiệp xe hơi tự lái Aurora.

Khi AI hoạt động đúng cách, nó có thể cực kỳ hiệu quả và mang lại lợi ích – nhưng chúng ta đều biết rằng trong thế giới thực, mọi thứ thường không diễn ra theo cách mà chúng ta hy vọng. Hãy tham gia “buổi hẹn hò đầu tiên” được sắp xếp giữa Blenderbot của Facebook AI và Kuki của Pandorabot để đánh giá kỹ năng trò chuyệnương ứng của họ. Trong cuộc họp tháng 10 khó xử, nỗ lực quyến rũ của Blenderbot đã dẫn đến những câu trả lời đáng sợ như “Thật thú vị khi tôi được giết người.” Kuki đã giành chiến thắng trong cuộc thi.

Các trục trặc, lỗi và sai lệch ở lứa tuổi vị thành niên của AI phản ánh các vấn đề trong thiết kế và triển khai hệ thống, một khi đã được xác định, có thể góp phần vào sự phát triển của AI lành mạnh hơn trong tương lai.