主辦單位:中國物品編碼中心 | 中國自動識別技術協會 | 《中國自動識別技術》雜志社

設為首頁 | 加入收藏 | 關于我們

  特別報道  正文

新思科技:安全而謹慎地擁抱AI

新思科技軟件質量與安全部門黑鴨軟件高級安全工程師Boris Cipot

發布時間:2019年05月13日 來源:中國自動識別網 作者:鄭昱

Boris Cipot,新思科技軟件質量與安全部門高級安全工程師,致力于幫助各種類型和規模的企業構建安全的軟件。他擅長開源軟件安全、機器人技術和人工智能。

 

新思科技于2017年底收購黑鴨軟件公司。Boris Cipot,新思科技軟件質量與安全部門黑鴨軟件高級安全工程師自此便開啟研究開源軟件的征程,基于此前在網絡安全領域從事反惡意軟件工作的經歷,Boris Cipot對人工智能(AI)與軟件之間的“相愛相殺”賦有濃郁的興趣,他坦言“未來,只有軟件安全得到有效確認,AI才能得到長足發展。”
 
記者:請您介紹現在AI行業的軟件應用,新思科技如何助力AI軟件安全?
Boris Cipot:軟件是AI發展不可或缺的一部分。我們觀察到現在有越來越多的物聯網(IoT)設備得到應用,但同時利用此類設備進行過網絡攻擊的事件也層出不窮。盡管一些公司宣稱新的AI解決方案可以消除對物聯網網絡攻擊的威脅,但在我看來,AI不會成為解決所有漏洞的神奇方案,至少現在還不具備這樣的實力。
許多公司正在努力實施AI算法,以降低監測威脅,響應自動化。但是自動化和AI是兩個不同的概念。自動化是基于規則的,通常被稱為機器學習;另一方面,AI經過培訓,可以根據收到的數據進行學習和適應。它適應變化,例如快速變化的威脅形勢,這很有優勢,但它還很不夠成熟。
交互式應用安全測試(IAST)解決方案,例如新思科技軟件質量與安全部門的Seeker,允許軟件開發人員(包括那些開發基于Web的AI應用程序)在功能測試期間執行安全測試。Seeker使用軟件工具技術來監控應用程序以檢測漏洞,幫助組織/企業識別和管理與使用動態測試技術運行Web應用程序時發現漏洞相關的安全風險。該技術與AI的未來發展非常契合。
 
記者:在機器人應用領域中,您認為機器人的“軟件安全”重點指什么?
Boris Cipot:只要涉及到軟件,我們強調的是“質量”與“安全”,而且這些都需要“向左移”,“向左移”意味著在開發之初就要考慮到。
無論是處于開發階段還是處于生產階段,軟件安全始終是任何產品的重要組成部分。AI的開發及其使用也不例外。所有涉及AI的應用程序(健康、汽車、機器人技術),軟件安全至關重要:如果有人控制了你的AI應用程序就會帶來錯誤的指示。AI需要處理輸入信息,并根據它進行適當的操作,一旦攻擊者控制了這些信息,就會造成危害。例如,如果攻擊者能夠控制汽車周圍環境的感應信息,輸入錯誤信息會導致錯誤的決定,甚至會危及生命。一旦軟件有漏洞并受到攻擊,AI將變得一無是處,反倒有可能會導致危害。因此,AI的發展和使用必須將安全放在重要位置。
 
記者:未來,“AI可能會讓我們的生活更美好,也可能走上相反的一面”,您怎么理解這個觀點?
Boris Cipot:AI并不新鮮。隨著技術的進步,AI也在不斷改進,AI與計算硬件在不斷更新迭代,AI將滲透到大眾生活的方方面面,會有更多現實的應用落地:AI為大眾日常帶來便利,比如將你的母語翻譯成其他語言的工具,在醫療上的智能快捷診斷與治療等等……
與此同時,AI的“黑暗面”也展露無疑。網絡安全漏洞、與生命息息相關的領域應用(前面提到的汽車行業)一旦被黑客攻擊,將導致不堪設想的后果。甚至電影中展現的AI將接管世界和全人類的場景(當然,我認為這些場景不會成為現實)。
任何技術都是把雙刃劍,AI也不例外。我們關注AI對生活的影響,不止側重在正面,也要看到其負面影響,這才是正確的做法,在推進AI應用的過程中,堅持謹慎的態度,并積極尋找有助于避免災難的方法。堅信AI最終是幫助我們改善生活。
 
記者:從全球視角,AI/機器人行業在未來會有怎樣的變化,呈現哪些趨勢?
Boris Cipot: AI的行業應用不再是新事物,需要將更多的流程自動化引用到不同行業,借助AI技術實現更高、更安全的任務自動化。制造業生產機器化已經成為行業的發展趨勢,實現大規模機器人生產線作業,降低人工成本提高產能的同時也加快了AI在制造業領域普及應用的速度。
將視角移到家用機器人領域,會發現這些設備,比如機器人伴侶、機器人寵物、清潔機等智能設備的采用率得到進一步的提高,它們在家庭中的應用會變得越來越普及。
另外,值得一提的是,有趣的“自我生產”也推動了AI/機器人技術的發展。許多修補匠都喜歡用3D打印,他們喜歡在家里制作東西。在過去幾年中,3D打印易用性大大增加,并且越來越多地被采用。將此與微型電路軟件的簡單開發相結合,例如Arduino(微型控制器)或Raspberry PI(芯片系統)應用于智能家居項目,機器人設備將會把真正的創意帶入生活。我認為這樣的家庭項目將成為AI和機器人技術未來發展的動力。
《中國自動識別技術》2019年第2期總第77期

延伸閱讀:

聲明:

    凡本網注明“來源:中國自動識別網、《中國自動識別技術》、《條碼與信息系統》”的所有作品,版權均屬于中國自動識別網、《中國自動識別技術》、《條碼與信息系統》, 未經本網授權不得轉載、摘編或利用其他方式使用上述作品。已經本網授權使用作品的,應在授權范圍內使用,并注明“來源:中國自動識別網、《中國自動識別技術》或《條碼與信息系統》”。違反上述聲明者,本網將追究其相關法律責任。
    凡本網注明“來源:XXX(非中國自動識別網、《中國自動識別技術》、《條碼與信息系統》)”的作品,均轉載自其他媒體,轉載目的在于傳遞更多信息,并不代表本網贊同其觀點和對其真實性負責。文章內容僅供參考。 如因作品內容、版權和其他問題需要同本網聯系的,請將內容傳真至010-84295675,以便本網盡快處理。

高端訪談 更多>>
有效安全的數據:醫療信息...
斑馬技術《2022中國醫療行業前瞻報告》顯示,中國正處于臨床移動信息化轉型的開端,中國各地的醫院正在擴大臨床移動性...
安全才是企業競合的力量
2019年OSSRA報告提供了商業應用程序中開源風險管理的狀況概覽。報告表明目前仍然存在重大挑戰,絕大多數的應用程序包...
Imagination:在無窮想象...
Andrew Grant于2018年加入Imagination,擔任高級總監,負責人工智能的戰略業務發展,并構建更廣泛的人工智能合作生態...
新思科技:安全而謹慎地擁...
Boris Cipot,新思科技軟件質量與安全部門高級安全工程師,致力于幫助各種類型和規模的企業構建安全的軟件。他擅長開...
雜志專區 更多>>

《2019第5期》

《2019第5期》

11选5每天赚200元不难