納德拉：AI發展需人類監督與控制
科技巨擘微軟的董事長暨執行長納德拉（Satya Nadella）近期針對人工智慧（AI）的潛在風險提出警示。他呼籲，在開發先進AI系統的過程中，必須納入由人類主導設立與執行的「緊急煞車」機制，以確保系統的可控性。
納德拉強調，這類機制應具備遏制、獨立控制的能力，讓獲得授權的人員在必要時能夠迅速暫停甚至關閉AI模型，防止其產生不可預期的後果。
強調系統設計的確定性與可靠性
根據美國財經媒體CNBC的報導，納德拉在社群媒體X上發文指出，面對非確定性的AI模型，周圍必須圍繞著強大、具確定性的系統設計。他認為，可靠的操作程序至關重要，並且在現有標準不足的領域，應由產業共同建立新的規範。
他進一步說明，一種建構此類安全系統的方式，是將前沿的閉源及開放權重模型，比照內部風險進行嚴格控管，從源頭上降低潛在的危險。
防範AI風險成為科技界關注焦點
隨著AI技術的飛速發展，其可能帶來的風險也日益受到重視。包括微軟共同創辦人比爾蓋茲在內的多位科技領袖，都曾對AI的潛在影響表達關切，並呼籲加強監管與安全措施。
納德拉的這番言論，再次凸顯了科技界對於如何在推動AI創新的同時，有效管理和防範相關風險的深切思考，確保技術發展能真正造福人類社會。
