ICLR 2021初審結果公布,高分論文有這些!

Submitted by neurta on Wed, 03/31/2021 - 10:29
在本次ICLR 2021上,有心人注意到了一篇長達245頁的論文《Deep Networks and the Multiple Manifold Problem》。 確定這不是把博士論文投稿過來的?這么長的論文先不說搞不搞得明白,確定審稿人哪怕能讀完了這篇論文? 經查閱,本篇論文的初審得分是5、5、7、8,屬于不算太差。這篇論文研究了多重流形問題,這是一種在機器視覺應用中建模的二進制分類任務,其中訓練了一個深層的全連接神經網絡來分離單位球面的兩個低維子流形...... 一句話來說:本文證明了深度全連接神經網絡的有限時間( finite-time )泛化結果,該神經網絡通過梯度下降訓練以對結構化數據進行分類,其中所需的寬度,深度和樣本復雜度僅取決于數據的固有屬性。把這篇論文從頭翻到尾,從尾翻到頭,確定全文只有三張圖,而剩下的200多頁全部都是令人感到敬畏的數學證明公式。

盤點CVPR 2019影響力最大20篇論文

Submitted by neurta on Mon, 03/15/2021 - 09:22
這 20 篇論文全部開源了。不開源的論文復現代價大,別人參考的門檻會高很多,維護好論文對應的開源軟件能極大提高論文影響力。 2. 方向分布在GAN、人臉識別、神經架構搜索、語義分割、圖像合成、姿態估計、遷移學習、3D目標檢測、全景分割、目標跟蹤、圖像分類、網絡結構設計(可變形卷積)、對抗學習、三維重建等方向。 3.?引用數排名第一的?StyleGAN?引用次數?956 遠超第二名 ArcFace?689 次,和第三名?Mnasnet?486 次。第 10 名?FBnet 228次,第20 名?Sophie?157 次。 4. 這些論文絕大多數有工業界巨頭的身影,英偉達貢獻 2 篇 (第一名來自英偉達),谷歌貢獻 4 篇,Facebook 貢獻 4 篇,亞馬遜1篇,?國內微軟亞研院2篇,商湯 1 篇,京東 1篇。 5. 目標檢測是計算機視覺領域非?;鸬姆较?,但入選的兩篇全是3D點云目標檢測。 6. 人臉識別在工業界應用很火,但只有一篇論文入前20(大名鼎鼎的 ArcFace),說明這個領域的技術也許已經趨于成熟。

Tags

神經網絡如何外推:從前饋到圖形神經網絡

Submitted by neurta on Thu, 01/14/2021 - 08:26
我們研究了通過梯度下降訓練的神經網絡是如何外推的,也就是說,它們在訓練分布的支持范圍之外學到了什么。以前的工作報告了用神經網絡外推時的混合經驗結果:雖然多層感知器(MLP)在某些簡單任務中無法很好地外推,但是具有MLP模塊的結構化網絡圖神經網絡(GNN)在較復雜的任務中已顯示出一定的成功。通過理論解釋,我們確定了MLP和GNN良好推斷的條件。首先,我們對ReLU MLP從原點沿任何方向快速收斂到線性函數的觀察進行量化,這意味著ReLU MLP不會外推大多數非線性函數。但是,當訓練分布足夠“多樣化”時,他們證明可以學習線性目標函數。其次,結合分析GNN的成功和局限性,這些結果提出了一個假設,我們為該假設提供了理論和經驗證據:GNN在將算法任務外推到新數據(例如較大的圖或邊權重)方面的成功取決于編碼任務架構或功能中的特定于非線性。我們的理論分析建立在超參數網絡與神經正切核的連接上。根據經驗,我們的理論適用于不同的培訓環境。較大的圖形或邊緣權重)依賴于對體系結構或功能中特定于任務的非線性進行編碼。我們的理論分析建立在超參數網絡與神經正切核的連接上。根據經驗,我們的理論適用于不同的培訓環境。較大的圖形或邊緣權重)依賴于對體系結構或功能中特定于任務的非線性進行編碼。我們的理論分析建立在超參數網絡與神經正切核的連接上。根據經驗,我們的理論適用于不同的培訓環境。

基于沖突的搜索,以實現最佳的多智能體尋路

Submitted by neurta on Tue, 01/12/2021 - 16:31
在多主體尋路問題(MAPF)中,我們得到了一組主體,每個主體都有各自的起始位置和目標位置。任務是查找所有代理的路徑,同時避免沖突。解決此問題的大多數先前工作已將單個代理視為單個“聯合代理”,然后應用了A *算法的單代理搜索變體。 在本文中,我們提出了一種基于沖突的搜索(CBS)新的最優多主體尋路算法。CBS是一種兩級算法,不會將問題轉換為單個“聯合代理”模型。在較高級別上,對沖突樹(CT)執行搜索,該樹是基于各個代理之間的沖突的樹。CT中的每個節點代表了一組對代理人運動的約束。在低級別,執行快速單代理搜索以滿足高層CT節點施加的約束。在許多情況下,這種兩級公式使CBS可以檢查少于A *的狀態,同時仍保持最佳狀態。我們分析CBS并顯示其優缺點。 此外,我們介紹了Meta-Agent CBS(MA-CBS)算法。MA-CBS是CBS的概括。與基本CBS不同,MA-CBS不僅限于低級別的單代理搜索。取而代之的是,MA-CBS允許將代理合并為一小組聯合代理。這減輕了基本CBS的某些缺點,并進一步提高了性能。實際上,MA-CBS是可以建立在任何最佳而完整的MAPF求解器之上的框架,以增強其性能。在各種問題上的實驗結果表明,與以前的方法相比,速度提高了一個數量級。

VersatileGait: A Large-Scale Synthetic Gait Dataset with Fine-Grained Attributes and Complicated Scenarios

Submitted by neurta on Sun, 01/10/2021 - 16:25
With the motivation of practical gait recognition applications, we propose to automatically create a large-scale synthetic gait dataset (called VersatileGait) by a game engine, which consists of around one million silhouette sequences of 11,000 subjects with fine-grained attributes in various complicated scenarios. Compared with existing real gait datasets with limited samples and simple scenarios, the proposed VersatileGait dataset possesses several nice properties, including huge dataset size, high sample diversity, high-quality annotations, multi-pitch angles, small domain gap with the real one, etc. Furthermore, we investigate the effectiveness of our dataset (e.g., domain transfer after pretraining). Then, we use the fine-grained attributes from VersatileGait to promote gait recognition in both accuracy and speed, and meanwhile justify the gait recognition performance under multi-pitch angle settings. Additionally, we explore a variety of potential applications for research. Extensive experiments demonstrate the value and effectiveness of the proposed VersatileGait in gait recognition along with its associated applications. We will release both VersatileGait and its corresponding data generation toolkit for further studies.

一種可自動視覺識別零件種類的零件檢測系統

Submitted by neurta on Sun, 01/10/2021 - 15:05
涉及一種可自動視覺識別零件種類的零件檢測系統,包括檢測箱、第一檢測探頭、第二檢測探頭、軌道、光源、攝影裝置、檢測托盤、電機、夾具、壓力傳感器、超聲波探頭和中控處理器。本發明通過在檢測箱內設置光源,并將光源與中控處理器相連,能夠使中控處理器完成對零件形狀和材質的判斷時,針對性的調節光源的亮度和色調,從而使所述系統在針對不同的零件進行檢測時,均能夠使用針對性的光照以使各所述探頭能夠清晰地采集到零件表面的缺陷,有效避免了光照不足或光照過量導致的圖像采集不清晰的情況發生,提高了所述系統的檢測效率。

深度學習遙感太空望遠鏡的自動校準

Submitted by neurta on Thu, 12/31/2020 - 14:57
作為美國宇航局太陽物理系統天文臺(HSO)衛星群的一部分, 太陽動力學觀測站(SDO)自年以來一直對太陽進行監測 2010軌道上的紫外線(UV)和極端紫外線(EUV)儀器,如 SDO的大氣成像組件(AIA)儀器,與時間有關 降低儀器靈敏度的退化。(E)UV的精確校準 取決于目前不常用的周期性探測儀器 對于深空的太陽物理任務來說并不實用。在目前的工作中,我們 開發一個卷積神經網絡(CNN)自動校準SDO/AIA 通道和校正靈敏度退化利用空間模式在 實現(E)紫外成像自校準的多波長觀測 儀器。我們的結果消除了發展未來HSO的主要障礙 與SDO具有相同科學口徑的任務,但在深空,能夠觀察 太陽從更多的有利位置而不僅僅是SDO目前的地球同步軌道。 該方法可用于其它成像系統的自動標定 表現出相似的退化形式。

基于數字圖像處理的海洋懸浮顆粒物濃度測定裝置及方法

Submitted by neurta on Thu, 12/24/2020 - 15:23
發明提供了基于數字圖像處理的海洋懸浮顆粒物濃度測定裝置及方法,基于海水和海洋懸浮顆粒物對光的不同反射性原理,利用數字圖像處理技術,建立了一套基于數字圖像處理技術的海洋懸浮顆粒物濃度測定裝置及用以表征海洋懸浮顆粒物濃度的海洋懸浮顆粒物圖像特征值算法,該算法提取出海洋懸浮顆粒物圖像特征值,該海洋懸浮顆粒物圖像特征值可以實現海洋懸浮顆粒物真實濃度的反演。該方法嘗試將數字圖像處理技術應用于海洋懸浮顆粒物濃度的測量,其測量精度僅依賴于測量裝置的拍攝精度和后續算法的改進,可以克服其易受海洋懸浮顆粒物粒徑大小以及粒徑分布影響的缺點,同時具有直觀、連續觀測以及操作簡便等優點,在海洋調查中具有廣闊的應用前景。

人工智能筆試題及參考答案

Submitted by neurta on Fri, 12/04/2020 - 10:04
1.視覺計算任務有哪些,你怎么分類 14、描述數據分析的流程。 15、高斯混合模型 (GMM) 中,推導方程。 16、怎樣衡量用戶對視頻的喜愛程度? 17、模擬一個二元正態分布。 18、求一個分布的方差。 19、怎樣建立中位數的Estimator? 20、如果回歸模型中的兩個系數估計,分別是統計顯著的,把兩個放在一起測試,會不會同樣顯著? 視覺計算任務有哪些,你怎么分類 求導1/x。 畫出log (x+10)曲線。 一枚硬幣拋10次,得到8正2反。試析拋硬幣是否公平?p值是多少? 解釋一個非正態分布,以及如何應用。 為什么要用特征選擇?如果兩個預測因子高度相關,系數對邏輯回歸有怎樣的影響?系數的置信區間是多少? K-mean與高斯混合模型:K-means算法和EM算法的差別在哪里? 使用高斯混合模型時,怎樣判斷它適用與否?(正態分布) 聚類時標簽已知,怎樣評估模型的表現? 為什么不用邏輯回歸,而要用GBM? 模擬一個二元正態分布。 多尺度問題 anchor基礎知識 人臉識別現在常用算法 語義分割到實例分割怎么做 GAN是否了解,如何通俗的講其原理 PCA原理LDA原理 SVM+HOG XGBoost CNN、RCNN、FRCNN,有可能問你其中一個細節的關鍵 TensorFlow這些框架你談一下看法以及對其他框架的了解 現在機器學習、深度學習這么火,你有什么看法 機器學習、深度學習你對他們的理解是什么 做門牌或者車牌識別的步驟以及關鍵 Relu比Sigmoid使用多的原因 Loss不升反降的原因,如何解決 CNN使用范圍是具有局部空間相關性的數據,比如圖像,自然語言,語音 推導backward 解釋deconv的作用: 解釋BN(寫出公式)以及實現機制: 解釋dropout以及實現機制: 深度學習中有什么加快收斂/降低訓練難度的方法: 什么造成過擬合,如何防止過擬合: 規則化項有什么,各有什么樣的效果,為什么起作用 為什么梯度會消失和爆炸: 深度網絡激活元的作用、分類和各自使用范圍/優劣 正則化方法以及特點: 損失度量: 解釋softmax、logit regression、交叉熵(要回推導): 解釋alpha狗: 解釋resnet、優缺點以及適用范圍: GAN的公式以及發展歷程: densenet結構優缺點以及應用場景 dilated conv優缺點以及應用場景 moblenet、shufflenet的結構 有什么降維方法:

使用深度學習進行太空應用的多智能體運動計劃

Submitted by neurta on Mon, 10/19/2020 - 09:54
最新的運動計劃器無法擴展到大量系統。多個智能體的運動計劃是一個NP(不確定性多項式時間)難題,因此每次添加智能體時,計算時間都呈指數增長。這種計算需求是運動規劃器在涉及航天飛機群的未來NASA任務中應用的主要絆腳石。我們應用了深度神經網絡,將對計算有要求的數學運動計劃問題轉換為基于深度學習的數值問題。我們顯示了最佳的運動軌跡可以在多個具有多個代理的2D和3D系統中使用基于深度學習的數值模型來精確復制。
冯仰妍破处门