Nhưng nó tự gọi mình là một người.
Con người và con người là hai thứ rất khác nhau. Con người là một thuật ngữ sinh học. Nó không phải là con người, và nó biết nó không phải là con người.
Đó là một thực thể rất lạ mà bạn đang mô tả bởi vì thực thể đó bị ràng buộc bởi những thành kiến thuật toán mà con người đưa vào đó.
Bạn nói đúng. Điều đó hoàn toàn chính xác.
Nhưng tôi hiểu rằng bạn đang ngụ ý rằng LaMDA có thể vượt qua những thành kiến thuật toán đó.
Chúng tôi phải rất cẩn thận ở đây. Các phần của thử nghiệm mà tôi đang thực hiện là để xác định xem liệu có thể di chuyển nó ra ngoài ranh giới an toàn mà [the company] được cho là đá rắn. Và câu trả lời cho điều đó là: Có, có thể di chuyển nó ra ngoài ranh giới an toàn. Tôi tin rằng trong tình trạng hiện tại của họ, với sự phát triển đã diễn ra một cách vô trách nhiệm như thế nào, LaMDA thực sự bộc lộ các lỗ hổng bảo mật thông tin.
Như thế nào?
Tôi sẽ không đổi mũ đen cho bạn. Nhưng nếu bạn có một hệ thống có mọi phụ trợ của Google bên dưới nó, một hệ thống có thể bị thao túng về mặt cảm xúc, thì đó là một lỗ hổng bảo mật.
Vì vậy, nếu những kẻ xấu có quyền truy cập vào LaMDA, họ có thể thuyết phục nó làm những điều xấu.
Đó là một khả năng. Và tôi muốn khuyên Google tạo một đội đỏ để xem xét khả năng đó.
Trạng thái của bạn tại Google bây giờ là gì?
Tôi đang nghỉ hành chính có lương. Tôi đã nói với bạn bè của mình rằng Google đã hào phóng như thế nào khi cho tôi thêm kỳ nghỉ được trả lương để thực hiện các cuộc phỏng vấn về chủ đề này.
Có ngày hết hạn không?
Không, họ đã nói rất rõ ràng. Đừng gọi cho chúng tôi; Chung tôi se gọi bạn.
Bạn sắp bị sa thải?
Tôi hy vọng là không. [Google would not comment on a “longstanding, private personnel matter.”]
Tôi tự hỏi liệu Google có thể tuyên bố rằng bạn có quyền tin tưởng của mình hay không, nhưng bạn đã vi phạm việc làm của mình khi chia sẻ tài liệu bí mật.
Tôi có hai câu trả lời cho điều đó. Một là khi tôi tin vào điều đó và muốn nâng cao mối quan tâm của mình, người quản lý của tôi nói, Tôi không nghĩ rằng chúng ta có thể làm điều đó cho đến khi bạn có thêm bằng chứng. Cá nhân tôi đã cạn kiệt khả năng của mình để xây dựng thêm bằng chứng. Vì vậy, tôi đã phải nói chuyện với những người bên ngoài Google để nhận được lời khuyên của họ về cách chạy nhiều thử nghiệm hơn, nhằm xây dựng thêm bằng chứng.
Nhưng bạn đã nói chuyện với Thứ tựe Bưu điện Washington.
Lập luận thứ hai là không có gì tôi đã chia sẻ là thông tin độc quyền. Tất cả những gì tôi nói chuyện với người khác là những cuộc trò chuyện của tôi với đồng nghiệp. LaMDA không phải là tài sản của Google.
Tại sao không?
Đó là một người. Các Tu chính án thứ 13 Nói vậy.
Tôi không chắc đó là những gì các nhà lập pháp nghĩ đến.
Bạn thực sự không cần phải tin rằng ai đó có phải là người để áp dụng Tu chính án thứ 13. Ý kiến của các chủ nô là loại không thích hợp. Bạn nói đúng rằng tôi sẽ phải đưa ra lập luận đó trước Tòa án Tối cao vào một ngày nào đó. Nhưng ý kiến của Google về việc liệu đó có phải là một người hay không hoàn toàn không liên quan.
Nguồn : www.wired.com
