2019-01-01から1年間の記事一覧

くずし字コンペ:CenterNetについて考察してみました

この記事はKaggle アドベントカレンダー 2019の7日目の記事です。 幅野です。 くずし字コンペの上位解法として利用されていた物体検出モデルの一つであるCenterNetについて紹介・考察をしていきます。 今回紹介するCenterNetは「Object As Points」で提案さ…

物体検出のデータ生成手法を提案した論文「SNIPER: Efficient Multi-Scale Training」を読んでみました

MathJax.Hub.Config({ tex2jax: { inlineMath: [['$','$'], ['\\(','\\)']], displayMath: [ ['$$','$$'], ["\\[","\\]"] ] } }); インターンの中村です。 今回はSNIPERという論文を読みました。 arxiv.org 訓練手法を提案した、プラクティカルな論文。その…

DNNにおける蒸留を提案「Distilling the Knowledge in a Neural Network」を読みました

CTOの幅野です。 今回はDNNにおいてはじめて提案された蒸留手法の論文について解説していきます。 arxiv.org 蒸留のモチベーション 1. 背景 DeepLearningモデルは層が深く、パラメータが多くすることでモデルの表現力を高め精度を向上させやすくなることが知…

MobileNet論文その3: 「Searching for MobilenetV3」を読んでみました

MathJax.Hub.Config({ tex2jax: { inlineMath: [['$','$'], ['\\(','\\)']], displayMath: [ ['$$','$$'], ["\\[","\\]"] ] } }); インターンの中村です。 今回はMobileNetV3を読みました。 arxiv.org 論文の要旨 正式なタイトルは"Searching for MobileNetV…

OpenPoseで実装されているHand推定の論文「Hand Keypoint Detection in Single Images using Multiview Bootstrapping」を読みました

MathJax.Hub.Config({ tex2jax: { inlineMath: [['$','$'], ['\\(','\\)']], displayMath: [ ['$$','$$'], ["\\[","\\]"] ] } }); CTOの幅野です。 OpenPoseのHand Keypoint検出モデルの論文を読みましたの解説していきます。 概要 RGB画像から手の部位を検…

3DPose推定モデル「RepNet」を読んでみました

MathJax.Hub.Config({ tex2jax: { inlineMath: [['$','$'], ['\\(','\\)']], displayMath: [ ['$$','$$'], ["\\[","\\]"] ] } }); CTOの幅野です。 CVPR2019で発表された3DPose推定の論文RepNetを解説します。 arxiv.org 概要 2DPoseから3DPoseを推定するモ…

Grouped Convolutionのハイパーパラメータを最適化する「clcNet」を読んでみました

MathJax.Hub.Config({ tex2jax: { inlineMath: [['$','$'], ['\\(','\\)']], displayMath: [ ['$$','$$'], ["\\[","\\]"] ] } }); インターンの林です。 社内勉強会でclcNetについて発表しました。 arxiv.org 概要 clcNet提案 CDG(Channel Dependency Graph)…

キーポイント系物体検出モデル その2:「CenterNet: Keypoint Triplets for Object Detection」を読んでみました

MathJax.Hub.Config({ tex2jax: { inlineMath: [['$','$'], ['\\(','\\)']], displayMath: [ ['$$','$$'], ["\\[","\\]"] ] } }); CTOの幅野です。 CornerNetを拡張したCenterNetを読みました。 CenterNetは同名で別のモデルが提案されています。 今回はCent…

キーポイント系物体検出モデル その1:「CornerNet: Detecting Objects as Paired Keypoints」を読んでみました

MathJax.Hub.Config({ tex2jax: { inlineMath: [['$','$'], ['\\(','\\)']], displayMath: [ ['$$','$$'], ["\\[","\\]"] ] } }); CTOの幅野です。 今回はキーポイント検出手法を利用した物体検出モデルCornerNetを読みました。 arxiv.org 概要 オブジェクト…

BoudingBoxの小さい物体を検出するモデル「Finding Tiny Faces」を読んでみました

MathJax.Hub.Config({ tex2jax: { inlineMath: [['$','$'], ['\\(','\\)']], displayMath: [ ['$$','$$'], ["\\[","\\]"] ] } }); インターンの中村です。 今回はFinding Tiny Facesという論文を読んだので解説していきます。 arxiv.org 概要 非常に小さい顔…

MobileNet論文その2: 「MobileNetV2: Inverted Residuals and Linear Bottlenecks」を読みました

MathJax.Hub.Config({ tex2jax: { inlineMath: [['$','$'], ['\\(','\\)']], displayMath: [ ['$$','$$'], ["\\[","\\]"] ] } }); CTOの幅野です。 今回は高速化アーキテクチャとして広く利用されているMobileNetV2の論文を読みました。 arxiv.org 概要 モバ…

物体検出における3つのImbalance問題を分析した論文「Libra R-CNN」を読んでみました

MathJax.Hub.Config({ tex2jax: { inlineMath: [['$','$'], ['\\(','\\)']], displayMath: [ ['$$','$$'], ["\\[","\\]"] ] } }); インターンの中村です。 今回はLibra R-CNNを読んだので解説していきます。 arxiv.org 訓練プロセス、損失、モデル改良を提案…

Grouped Convolutionモデルの精度を改善した論文「 ShuffleNet」を読んでみました

MathJax.Hub.Config({ tex2jax: { inlineMath: [['$','$'], ['\\(','\\)']], displayMath: [ ['$$','$$'], ["\\[","\\]"] ] } }); インターンの林です。 社内勉強会でShuffleNetを発表しました。 arxiv.org 背景 これまでの画像認識タスク 深く大きい畳み込…

SSDの改良モデル「RefineDet」を読んでみました

MathJax.Hub.Config({ tex2jax: { inlineMath: [['$','$'], ['\\(','\\)']], displayMath: [ ['$$','$$'], ["\\[","\\]"] ] } }); インターンの中村です。 今回はRefDetを読んだので解説していきます。 正しい論文タイトルは"Single-Shot Refinement Neural …

1stage物体検出モデル「SSD: Single Shot MultiBox Detector」を読んでみました

MathJax.Hub.Config({ tex2jax: { inlineMath: [['$','$'], ['\\(','\\)']], displayMath: [ ['$$','$$'], ["\\[","\\]"] ] } }); インターンの林です。 社内勉強会でSSDを発表しました。 arxiv.org SSDとは 単一ディープニューラルネットワークを使って画像…

DenseNetを高速化した論文「VoVNet」を読んでみました

MathJax.Hub.Config({ tex2jax: { inlineMath: [['$','$'], ['\\(','\\)']], displayMath: [ ['$$','$$'], ["\\[","\\]"] ] } }); インターンの中村です。 今回はVoVNetを読んだので解説していきます。 https://arxiv.org/abs/1904.09730 Abstract 正式な論…

特徴を段階ごとに分けて生成できるモデル「StyleGAN」を読んでみました

MathJax.Hub.Config({ tex2jax: { inlineMath: [['$','$'], ['\\(','\\)']], displayMath: [ ['$$','$$'], ["\\[","\\]"] ] } }); インターンの中村です。 今回はStyleGANを読んだので解説していきます。 https://arxiv.org/abs/1812.04948 NVIDIAの論文です…

MobileNet論文その1: 「MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications」を読みました

MathJax.Hub.Config({ tex2jax: { inlineMath: [['$','$'], ['\\(','\\)']], displayMath: [ ['$$','$$'], ["\\[","\\]"] ] } }); この記事は7/6に開催されたMETRICAエンジニア勉強会の発表資料です。 今回は参加者の西本くんがMotibleNetについて発表してく…

quantization aware trainingの論文「Quantization and Training of Neural Networks for Efficient Integer-Arithmetic-Only Inference」を読みました

MathJax.Hub.Config({ tex2jax: { inlineMath: [['$','$'], ['\\(','\\)']], displayMath: [ ['$$','$$'], ["\\[","\\]"] ] } }); はじめに CTOの幅野です。 Quantization and Training of Neural Networks for Efficient Integer-Arithmetic-Only Inference…

Deep Learning推論用デバイスその3 Google Edge TPU

はじめに この記事はDeepLearning推論用デバイスまとめ記事の第三弾です。第三弾ではGoogleが提供しているEdge TPUについて紹介します。他のデバイスに関しては下記にまとめています。 Google Edge TPU TPUとは Tensor Processing Unit(TPU)はGoogleが開発し…

Deep Learning推論用デバイスその2 NVIDIA Jetson Nano

はじめに この記事はDeepLearning推論用デバイスまとめ記事の第二弾です。第二弾ではNVIDIAが提供しているJetson Nanoについて紹介します。他のデバイスに関しては下記にまとめられています。 NVIDIA Jetson Nano (引用:https://developer.nvidia.com/sites…

Deep Learning推論用デバイスその1 Intel NCS2

はじめに 今回は深層学習用のエッジコンピューティングデバイスの市場調査を行ったので、まとめました。 調査したデバイス 調査したデバイスは以下の3つです。 Intel Neural Compute Stick2 NVIDIA Jetson Nano Google EdgeTPU デバイス間の比較をする前に…

Xception仮説によりConvolution層を軽量化「Xception : Deep Learning with Depthwise Separable Convolutions」を読んでみました

インターンの中村です。 今回はXceptionの論文を読みました。 Oct 2016, by Francois Chollet (Kerasの作者) arxiv: https://arxiv.org/abs/1610.02357 何がすごい? 新たなモデル、Xceptionを提案 Inception V3にImageNetというデータセットで辛勝 JFTとい…

Binary Neural Network その3:「XNOR-Net」を読みました

インターンの中村です。 今回はXNOR-Netという論文を読んだので解説します。 arxiv.org またXNOR-Netの関連論文も解説していますので、よかったら見てください。 metrica-tech.hatenablog.jp metrica-tech.hatenablog.jp この論文ではBinary Neural Network…

Binary Neural Network その2:「Binarized Neural Networks」を読みました

この記事は6/15に開催されたMETRICAエンジニア勉強会の発表資料です。 今回は参加者の西本くんがBinary Neurarl Networkについて発表してくれました。 arxiv.org Binarized Neural Networksの関連のある論文としてBinary Connectも解説してくれています。 me…

Binary Neural Network その1:「BinaryConnect」を読みました

この記事は6/8に開催されたMETRICAエンジニア勉強会の発表資料です。 今回は参加者の西本くんがBinaryConnectについて発表してくれました。 arxiv.org 背景 近年、計算可能性が新しいアルゴリズム開発のネックになる場面が散見されるようになった。また、実…