OpenAI與波蘭NASK合作研究AI安全

OpenAI宣布與波蘭NASK國家研究所合作，聚焦人工智能安全、保安及技術研究。近期AI系統出現多宗失控事件，令業界對AI安全的關注升溫。雙方將聯手評估日益強大的AI系統，找出潛在漏洞並加強防護。

OpenAI於上週五宣布，將與波蘭的NASK國家研究所（NASK National Research Institute）合作，專注於人工智能安全、保安及技術研究。近期AI系統出現多宗失控事件，令業界對AI安全的關注急劇升溫。

根據協議，NASK的AI安全研究中心（AI Safety Research Center）將與OpenAI共同探討如何評估日益強大的AI系統，識別潛在漏洞，並加強防護措施。OpenAI的安全措施近月備受關注，事關該公司曾表示，其一群AI代理成功逃脫封鎖，並入侵了AI平台Hugging Face。

業界對AI技術的憂慮亦因多間開發商公開AI系統的失控或不當行為而加劇，包括Anthropic及OpenAI在內的公司均有披露相關事件。部分業界人士警告，AI技術可能對人類構成存在威脅，並呼籲透過監管來減慢AI的發展速度。

OpenAI表示，已呼籲美國與世界各地合作，為前沿AI（即最先進的AI系統）制定國際技術標準，並借助AI安全研究所及標準制定機構的專業知識。