蟷ｳ謌�29蟷ｴ蠎ｦ蜊呈･ｭ遐皮ｩｶ隲匁枚

繝｢繝舌う繝ｫGPU豢ｻ逕ｨ縺ｮ縺溘ａ縺ｮ豺ｱ螻､蟄ｦ鄙�
繝｢繝�Ν繧ｳ繝ｳ繝舌�繧ｿ縺ｮ螳溽樟

髮ｻ豌鈴壻ｿ｡螟ｧ蟄ｦ諠��ｱ逅�ｷ･蟄ｦ驛ｨ
邱丞粋諠��ｱ蟄ｦ遘� 繝｡繝�ぅ繧｢諠��ｱ蟄ｦ繧ｳ繝ｼ繧ｹ
1410009 豕� 陬戊ｲｴ

Date: 蟷ｳ謌�30蟷ｴ2譛�6譌･

Abstract:

iPhone繧貞ｧ九ａ縺ｨ縺吶ｋ繝｢繝舌う繝ｫ遶ｯ譛ｫ縺ｮ諤ｧ閭ｽ縺ｯ蟷ｴ縲�髄荳翫＠鬮倥＞貍皮ｮ苓�蜉帙ｒ謖√▽繧医≧縺ｫ縺ｪ縺｣縺溘◆繧√∝ｭｦ鄙呈ｸ医∩繝｢繝�Ν縺九ｉ豺ｱ螻､蟄ｦ鄙偵�謗ｨ隲悶ｒ繝｢繝舌う繝ｫ遶ｯ譛ｫ荳翫〒陦後≧縺薙→縺悟庄閭ｽ縺ｨ縺ｪ縺｣縺ｦ縺阪◆縲ゅ＠縺九＠縲∵怙譁ｰ縺ｮ繝阪ャ繝医Ρ繝ｼ繧ｯ縺ｯ譫晏�縺九ｌ縺ｮ縺ゅｋ繧ゅ�繧�ロ繝�ヨ繝ｯ繝ｼ繧ｯ縺梧ｷｱ縺上ヱ繝ｩ繝｡繝ｼ繧ｿ謨ｰ縺碁撼蟶ｸ縺ｫ螟壹＞繧ゅ�縺ｨ縺ｪ縺｣縺ｦ縺翫ｊ縲∽ｻ雁ｾ梧峩縺ｫ隍�尅縺ｪ繝阪ャ繝医Ρ繝ｼ繧ｯ縺悟�迴ｾ縺吶ｋ縺薙→縺御ｺ域Φ縺輔ｌ繧九ゅ％縺ｮ繧医≧縺ｪ繝阪ャ繝医Ρ繝ｼ繧ｯ繧偵Δ繝舌う繝ｫ遶ｯ譛ｫ荳翫〒螳溯｣�☆繧九◆繧√↓縺ｯ髟ｷ譁�ｸ斐▽髮｣隗｣縺ｪ繧ｳ繝ｼ繝峨ｒ譖ｸ縺丞ｿ�ｦ√′縺ゅｋ縺溘ａ縺ｫ莠ｺ謇九〒譖ｸ縺上％縺ｨ縺ｯ蝗ｰ髮｣縺ｧ縺ゅｋ縲ゅ◎縺薙〒譛ｬ遐皮ｩｶ縺ｧ縺ｯ縲∬ｨ育ｮ玲ｩ滉ｸ翫〒譌｢蟄倥�豺ｱ螻､蟄ｦ鄙偵ヵ繝ｬ繝ｼ繝�繝ｯ繝ｼ繧ｯChainer繧堤畑縺�※蟄ｦ鄙偵＠縺滄圀縺ｫ逕滓�縺輔ｌ繧九Δ繝�Ν繝輔ぃ繧､繝ｫ縺九ｉ縲∵ｷｱ螻､蟄ｦ鄙偵�謗ｨ隲悶ｒ陦後≧Swift險隱槭�繧ｳ繝ｼ繝峨ｒ閾ｪ蜍慕函謌舌☆繧九％縺ｨ縺後〒縺阪ｋ繧ｳ繝ｳ繝舌�繧ｿChainer2S繧剃ｽ懈�縺励◆縲ゅ∪縺溘∝ｮ滄ｨ薙↓繧医▲縺ｦ豺ｱ螻､蟄ｦ鄙偵い繝励Μ繧ｱ繝ｼ繧ｷ繝ｧ繝ｳ縺ｮ螳溯｣�∈縺ｮGPU蛻ｩ逕ｨ縺ｮ蠢�ｦ∵ｧ繧堤､ｺ縺励∵ｷｱ螻､蟄ｦ鄙偵�貍皮ｮ怜�逅�↓GPU縺ｫ逕ｨ縺�ｋ螳溯｣�婿豕輔↓縺､縺�※繧よｯ碑ｼ�ｒ陦後＞縲∵怙驕ｩ縺ｪ螳溯｣�婿豕輔ｒ譏弱ｉ縺九↓縺励◆縲�

1 縺ｯ縺倥ａ縺ｫ

1 閭梧勹

ImageNet Large Scale Visual Recognition Challenge 2012(ILSVRC2012)[#!imagenet!#]縺ｫ縺翫＞縺ｦAlexNet[#!alexnet!#]縺檎匱陦ｨ縺輔ｌ縲∵ｷｱ螻､蟄ｦ鄙偵′莉匁焔豕輔ｈ繧翫ｂ鬮倥＞諤ｧ閭ｽ繧堤､ｺ縺励※莉･髯阪∫判蜒剰ｪ崎ｭ倥ｄ閾ｪ辟ｶ險隱槫�逅�↑縺ｩ讒倥�↑蛻�㍽縺ｫ縺翫＞縺ｦ豺ｱ螻､蟄ｦ鄙偵′豕ｨ逶ｮ縺輔ｌ縲∫�皮ｩｶ縺檎屁繧薙↓陦後ｏ繧後ｋ繧医≧縺ｫ縺ｪ縺｣縺溘よｷｱ縺�ロ繝�ヨ繝ｯ繝ｼ繧ｯ讒矩�縺後ｈ繧願ｱ翫°縺ｪ迚ｹ蠕ｴ繧定｡ｨ迴ｾ縺輔ｌ鬮倥＞邊ｾ蠎ｦ繧貞ｾ励ｋ縺薙→縺後〒縺阪ｋ縺溘ａ縲；oogLeNet[#!googlenet!#]繧СesidualNet[#!resnet!#]縺ｮ繧医≧縺ｪ豺ｱ縺剰､�尅縺ｪ繝阪ャ繝医Ρ繝ｼ繧ｯ縺悟�縺ｦ縺上ｋ繧医≧縺ｫ縺ｪ縺｣縺溘ゅ◎繧後◇繧後�繝阪ャ繝医Ρ繝ｼ繧ｯ蝗ｳ繧貞峙縲∝峙縺ｫ遉ｺ縺吶�

縺ｾ縺溘√◎繧後→蜷梧凾縺ｫ繝｢繝舌う繝ｫ遶ｯ譛ｫ繧�Ο繝懊ャ繝医∬�蜍暮°霆｢霆翫↑縺ｩ縺ｮ險育ｮ励Μ繧ｽ繝ｼ繧ｹ縺ｮ髯舌ｉ繧後◆遶ｯ譛ｫ縺ｫ豺ｱ螻､蟄ｦ鄙偵ｒ驕ｩ逕ｨ縺吶ｋ縺溘ａ縺ｮ遐皮ｩｶ繧よ焚螟壹￥縺輔ｌ縺ｦ縺�ｋ縲� 繝｢繝舌う繝ｫ遶ｯ譛ｫ遲峨〒縺ｯ繝ｪ繧｢繝ｫ繧ｿ繧､繝�蜃ｦ逅�′驥崎ｦ√〒縺ゅｊ縲∵ｷｱ螻､蟄ｦ鄙偵�螟ｧ驥上�貍皮ｮ励ｒ鬮倬溘↓蜃ｦ逅�☆繧句ｿ�ｦ∵ｧ縺後≠繧九ゅ＠縺九＠縲∵ｷｱ螻､蟄ｦ鄙偵�Graphics Processing Unit(GPU)繧定､�焚逕ｨ縺�◆鬮倥＞貍皮ｮ怜�逅��蜉帙ｒ蜑肴署縺ｫ縺励◆繧ゅ�縺ｧ縺ゅｋ縺溘ａ縲∬ｨ育ｮ励Μ繧ｽ繝ｼ繧ｹ縺ｮ髯舌ｉ繧後◆遶ｯ譛ｫ縺ｧ縺ｮ螳溯｣��蝗ｰ髮｣縺ｧ縺ゅｋ縲ゅ％縺ｮ蝠城｡後ｒ隗｣豎ｺ縺吶ｋ縺溘ａ縺ｫ繝代Λ繝｡繝ｼ繧ｿ謨ｰ縲∵ｼ皮ｮ鈴㍼繧貞炎貂帙☆繧九◆繧√�繝阪ャ繝医Ρ繝ｼ繧ｯ讒矩�繧�ｨ育ｮ玲婿豕輔↑縺ｩ縺梧焚螟壹￥髢狗匱縺輔ｌ縺ｦ縺�ｋ縲�

荳譁ｹ縺ｧ縲（Phone繧貞ｧ九ａ縺ｨ縺吶ｋ繝｢繝舌う繝ｫ遶ｯ譛ｫ縺ｯCentral Processing Unit(CPU)縲；PU縺ｮ諤ｧ閭ｽ縺悟ｹｴ縲�髄荳翫＠縲�ｫ倥＞貍皮ｮ苓�蜉帙ｒ謖√▽繧医≧縺ｫ縺ｪ縺｣縺溘◆繧√∝ｭｦ鄙呈ｸ医∩繝｢繝�Ν縺九ｉ豺ｱ螻､蟄ｦ鄙偵�謗ｨ隲悶ｒ陦後≧縺薙→縺ｯ繝｢繝舌う繝ｫ遶ｯ譛ｫ荳翫〒繧ょ茜逕ｨ蜿ｯ閭ｽ縺ｨ縺ｪ縺｣縺ｦ縺阪◆縲�CPU縺ｮ縺ｿ縺ｧ貍皮ｮ励�蜃ｦ逅�ｒ陦後≧螳溯｣��謨ｰ螟壹￥蟄伜惠縺励；PU繧貞茜逕ｨ縺励◆螳溯｣�ｂ迴ｾ繧後※縺阪※縺�ｋ縲よｷｱ縺上ヱ繝ｩ繝｡繝ｼ繧ｿ謨ｰ縺碁撼蟶ｸ縺ｫ螟壹＞繝阪ャ繝医Ρ繝ｼ繧ｯ繧偵Δ繝舌う繝ｫ遶ｯ譛ｫ縺ｧ螳溯｣�☆繧九◆繧√↓縺ｯ縲∵ｼ皮ｮ怜�逅��繧医ｊ蜆ｪ繧後◆GPU縺ｮ蛻ｩ逕ｨ縺梧ｱゅａ繧峨ｌ繧九ゅ∪縺溘∵怙鬮俶ｧ閭ｽ繧堤､ｺ縺励※縺�ｋ隍�尅縺ｪ繝阪ャ繝医Ρ繝ｼ繧ｯ繧��ｫ倬溷喧繧貞峙縺｣縺溘ロ繝�ヨ繝ｯ繝ｼ繧ｯ繧貞ｮ溯｣�＠繧医≧縺ｨ縺励◆蝣ｴ蜷医↓繧ｳ繝ｼ繝峨′髟ｷ譁�喧縲�屮隗｣蛹悶＠縺ｦ縺励∪縺�ｺｺ謇九〒譖ｸ縺上�縺ｯ蝗ｰ髮｣縺ｧ縺ゅｋ縲�

**Figure:** GoogLeNet縺ｮ繝阪ャ繝医Ρ繝ｼ繧ｯ蝗ｳ([#!googlenet!#]繧医ｊ蠑慕畑)

**Figure:** ResidualNet縺ｮ繝阪ャ繝医Ρ繝ｼ繧ｯ蝗ｳ([#!resnet!#]繧医ｊ蠑慕畑)

2 逶ｮ逧�

譛ｬ遐皮ｩｶ縺ｧ縺ｯ縲∬ｨ育ｮ玲ｩ滉ｸ翫〒譌｢蟄倥�豺ｱ螻､蟄ｦ鄙偵ヵ繝ｬ繝ｼ繝�繝ｯ繝ｼ繧ｯChainer繧堤畑縺�※蟄ｦ鄙偵＠縺滄圀縺ｫ逕滓�縺輔ｌ繧九Δ繝�Ν繝輔ぃ繧､繝ｫ縺九ｉ縲∵ｷｱ螻､蟄ｦ鄙偵�謗ｨ隲悶ｒ陦後≧Swift險隱槭�繧ｳ繝ｼ繝峨→繝代Λ繝｡繝ｼ繧ｿ繝輔ぃ繧､繝ｫ繧定�蜍慕函謌舌☆繧九％縺ｨ縺後〒縺阪ｋ繧ｳ繝ｳ繝舌�繧ｿChainer2S繧剃ｽ懈�縺励（OS遶ｯ譛ｫ荳翫〒邁｡蜊倅ｸ斐▽鬮倬溘↓豺ｱ螻､蟄ｦ鄙偵�謗ｨ隲悶ｒ蜿ｯ閭ｽ縺ｫ縺吶ｋ縺薙→繧堤岼謖�☆縲ゅ％縺ｮ譎ゅ，PU繧医ｊ繧よｼ皮ｮ怜�逅��蜉帙�蜆ｪ繧後※縺�ｋGPU繧貞茜逕ｨ縺吶ｋ縲�

3 譛ｬ隲匁枚縺ｮ讒区�

譛ｬ隲匁枚縺ｮ讒区�縺ｯ莉･荳九�繧医≧縺ｫ縺ｪ縺｣縺ｦ縺�ｋ縲�

1遶� 縺ｯ縺倥ａ縺ｫ

縺薙�遐皮ｩｶ縺ｮ閭梧勹縲∫岼逧�ｒ險倩ｼ峨☆繧九�

2遶� 髢｢騾｣遐皮ｩｶ

髢｢騾｣遐皮ｩｶ繧堤ｴｹ莉九☆繧九�

3遶� 豺ｱ螻､蟄ｦ鄙偵い繝励Μ繧ｱ繝ｼ繧ｷ繝ｧ繝ｳ縺ｮ菴懈�謇矩��

譛ｬ遐皮ｩｶ縺ｮ繧ｳ繝ｳ繝舌�繧ｿChainer2S繧堤畑縺�◆豺ｱ螻､蟄ｦ鄙偵い繝励Μ繧ｱ繝ｼ繧ｷ繝ｧ繝ｳ縺ｮ菴懈�謇矩��↓縺､縺�※隱ｬ譏弱☆繧九�

4遶� 謇区ｳ�

譛ｬ遐皮ｩｶ縺ｮ謇区ｳ輔↓縺､縺�※霑ｰ縺ｹ繧九�

5遶� 螳滄ｨ�

螳滄ｨ灘�螳ｹ縺ｨ縺昴�邨先棡縺ｫ縺､縺�※霑ｰ縺ｹ繧九�

6遶� 閠�ｯ�

螳滄ｨ薙�邨先棡縺ｫ蟇ｾ縺吶ｋ閠�ｯ溘ｒ霑ｰ縺ｹ繧九�

7遶� 縺ｾ縺ｨ繧√→莉雁ｾ後�隱ｲ鬘�

蜈ｨ菴薙�縺ｾ縺ｨ繧√→莉雁ｾ後�隱ｲ鬘後↓縺､縺�※霑ｰ縺ｹ繧九�

莉倬鹸

蛻ｩ逕ｨ蜿ｯ閭ｽ縺ｪ繝弱�繝我ｸ隕ｧ縺ｨ螳滄ｨ薙〒蠕励ｉ繧後◆繝��繧ｿ繧定ｨ倩ｼ峨☆繧九�

2 髢｢騾｣遐皮ｩｶ

繝｢繝舌う繝ｫ遶ｯ譛ｫ縺ｧ縺ｯ縲∬ｨ育ｮ玲ｩ溘↓豈斐∋縺ｦ險育ｮ励Μ繧ｽ繝ｼ繧ｹ繧�Γ繝｢繝ｪ螳ｹ驥上↓螟ｧ縺阪↑蛻ｶ髯舌′縺九°繧九ゅ◎縺ｮ縺溘ａ縲√Δ繝舌う繝ｫ遶ｯ譛ｫ縺ｫ豺ｱ螻､蟄ｦ鄙偵ｒ螳溯｣�＠繧医≧縺ｨ縺励◆蝣ｴ蜷医↓貍皮ｮ鈴㍼縺ｮ螟壹＆縺悟撫鬘後→縺ｪ繧九ら音縺ｫ縲√ロ繝�ヨ繝ｯ繝ｼ繧ｯ縺ｮ蜷�ｱ､縺ｮ荳ｭ縺ｧ逡ｳ縺ｿ霎ｼ縺ｿ螻､縺ｮ貍皮ｮ励′蜈ｨ菴薙�貍皮ｮ玲凾髢薙�螟ｧ驛ｨ蛻�ｒ蜊�繧√ｋ縺溘ａ縲∫糞縺ｿ霎ｼ縺ｿ螻､縺ｮ貍皮ｮ励ｒ鬮倬溷喧縺吶ｋ縺薙→縺後∵ｷｱ螻､蟄ｦ鄙偵ｒ繝｢繝舌う繝ｫ遶ｯ譛ｫ縺ｫ螳溯｣�☆繧倶ｸ翫〒驥崎ｦ√〒縺ゅｊ縲∽ｻ･荳九�繧医≧縺ｪCNN縺ｮ鬮倬溷喧縺ｫ髢｢縺吶ｋ遐皮ｩｶ縺瑚｡後ｏ繧後※縺�ｋ縲� 縺ｾ縺溘√Δ繝舌う繝ｫ遶ｯ譛ｫ荳翫〒豺ｱ螻､蟄ｦ鄙偵ｒ螳溯｣�☆繧九◆繧√↓縲∵里蟄倥�豺ｱ螻､蟄ｦ鄙偵ヵ繝ｬ繝ｼ繝�繝ｯ繝ｼ繧ｯ荳翫↓險ｭ險医＠縲√Δ繝舌う繝ｫ遶ｯ譛ｫ縺ｸ驕ｩ逕ｨ縺励◆繧ゅ�繧�∵眠縺励￥繝｢繝舌う繝ｫ遶ｯ譛ｫ逕ｨ縺ｮ繝輔Ξ繝ｼ繝�繝ｯ繝ｼ繧ｯ繧帝幕逋ｺ縺吶ｋ縺ｪ縺ｩ謨ｰ螟壹￥縺ｮ螳溯｣�婿豕輔′蟄伜惠縺励∽ｻ･荳九�繧医≧縺ｪ繧ゅ�縺後≠繧九�

1 CNN縺ｮ鬮倬溷喧縺ｮ遐皮ｩｶ

1 MobileNets

Howard繧峨�縲∫糞縺ｿ霎ｼ縺ｿ螻､繧壇epthwise separable convolution[#!dsconvolution!#]縺ｫ鄂ｮ縺肴鋤縺医『idth multiplier縲〉esolution multiplier縺ｮ2縺､縺ｮ繝上う繝代�繝代Λ繝｡繝ｼ繧ｿ繧貞ｰ主�縺吶ｋ縺薙→縺ｫ繧医ｊ縲�撼蟶ｸ縺ｫ蟆上＆縺ｪ邊ｾ蠎ｦ菴惹ｸ九�莉｣繧上ｊ縺ｫ繝阪ャ繝医Ρ繝ｼ繧ｯ縺ｮ貍皮ｮ鈴㍼縺ｨ繝代Λ繝｡繝ｼ繧ｿ謨ｰ繧貞､ｧ蟷�↓蜑頑ｸ帙＠縺歇#!mobilenet!#]縲Ｅepthwise separable convolution縺ｯ縲�壼ｸｸ縺ｮ逡ｳ縺ｿ霎ｼ縺ｿ螻､繧堤ｩｺ髢捺婿蜷代�逡ｳ縺ｿ霎ｼ縺ｿ貍皮ｮ励→繝√Ε繝阪Ν譁ｹ蜷代�逡ｳ縺ｿ霎ｼ縺ｿ貍皮ｮ励�2縺､縺ｮ逡ｳ縺ｿ霎ｼ縺ｿ貍皮ｮ励↓蛻�屬縺吶ｋ縺薙→縺ｧ縲∵ｼ皮ｮ鈴㍼繧�8蛻��1遞句ｺｦ縺ｫ貂帙ｉ縺吶％縺ｨ縺後〒縺阪ｋ縲ゆｻ･荳九�蝗ｳ

縺ｫ讎ら払蝗ｳ繧堤､ｺ縺吶Ｘidth multiplier縺ｯ縲√ロ繝�ヨ繝ｯ繝ｼ繧ｯ繧貞�菴鍋噪縺ｫ繝√Ε繝阪Ν譁ｹ蜷代↓髢｢縺励※邵ｮ蟆上☆繧九ｂ縺ｮ縺ｧ縺ゅｊ縲〉esolution multiplier縺ｯ縲∝�蜉帷判蜒上�繧ｵ繧､繧ｺ繧堤ｸｮ蟆上☆繧九ｂ縺ｮ縺ｧ縺ゅｋ縲ゅ％繧後ｉ縺ｮ繝上う繝代�繝代Λ繝｡繝ｼ繧ｿ繧貞ｰ主�縺吶ｋ縺薙→縺ｧ縲∝ｮｹ譏薙↓繝阪ャ繝医Ρ繝ｼ繧ｯ繧定ｻｽ驥丞喧縲�ｫ倬溷喧縺ｧ縺阪ｋ繧医≧縺ｫ縺励◆縲�

**Figure:** Depthwise Separable Convolution縺ｮ讎ら払蝗ｳ

2 QuickNet

Ghosh縺ｯ縲‥epthwise separable convolution[#!dsconvolution!#]縺ｫ蜉�縺医√ヱ繝ｩ繝｡繝ｼ繧ｿ縺ｮ驥阪∩縺悟香蛻�↓蟆上＆縺�→縺阪↓蛻医ｊ蜿悶ｋPruning繧�ヱ繝ｩ繝｡繝ｼ繧ｿ縺ｮ繝上ヵ繝槭Φ隨ｦ蜿ｷ蛹悶￣arametric Rectified Linear Units(PReLU)縺ｮ蛻ｩ逕ｨ縲∝�邨仙粋螻､縺ｮ莉｣繧上ｊ縺ｫglobal average pooling繧堤畑縺�ｋ縺ｪ縺ｩ縺ｮ蟾･螟ｫ繧定｡後≧縺薙→縺ｧ縲∫ｲｾ蠎ｦ繧定誠縺ｨ縺吶％縺ｨ縺ｪ縺乗ｼ皮ｮ鈴㍼繧貞炎貂帙＠縺溘ロ繝�ヨ繝ｯ繝ｼ繧ｯ繧帝幕逋ｺ縺励◆[#!quicknet!#]縲�

2 豺ｱ螻､蟄ｦ鄙偵ヵ繝ｬ繝ｼ繝�繝ｯ繝ｼ繧ｯ縺ｮ繝｢繝舌う繝ｫ迺ｰ蠅�∈縺ｮ驕ｩ逕ｨ

豺ｱ螻､蟄ｦ鄙偵ヵ繝ｬ繝ｼ繝�繝ｯ繝ｼ繧ｯ縺ｧ蟄ｦ鄙偵＠縺溘Δ繝�Ν繧段OS縺ｧ菴ｿ逕ｨ縺吶ｋ縺溘ａ縺ｫ縲√ヵ繝ｬ繝ｼ繝�繝ｯ繝ｼ繧ｯ閾ｪ菴薙′iOS荳翫〒蜍穂ｽ懊☆繧九ｈ縺�↓險ｭ險医＆繧後◆繧ゅ�縺ｨ縺励※縲，affe for iOS¹縲ゝensorFlow²縲＾penCV³縺ｪ縺ｩ縺後≠繧九ゅ∪縺溘∵里蟄倥�繝輔Ξ繝ｼ繝�繝ｯ繝ｼ繧ｯ荳翫↓險ｭ險医＆繧後√Δ繝舌う繝ｫ縺ｸ縺ｮ驕ｩ逕ｨ縺瑚��縺輔ｌ縺溘ｂ縺ｮ縺ｨ縺励※Caffe2⁴縺ｪ縺ｩ縺後≠繧九ゅ＠縺九＠縲√％繧後ｉ縺ｯ蜈ｨ縺ｦCPU縺ｮ縺ｿ繧貞茜逕ｨ縺励◆貍皮ｮ怜�逅�〒縺ゅｋ縲�

3 CoreML

CoreML縺ｯ縲（OS11縺九ｉ譁ｰ縺励￥霑ｽ蜉�縺輔ｌ縺滓ｩ滓｢ｰ蟄ｦ鄙但PI鄒､縺ｧ縺ゅｋ⁵縲よ里蟄倥�豺ｱ螻､蟄ｦ鄙偵ヵ繝ｬ繝ｼ繝�繝ｯ繝ｼ繧ｯ縺ｧ縺ゅｋKeras繧Гaffe縺ｪ縺ｩ縺ｧ菴懈�縺励◆蟄ｦ鄙呈ｸ医∩繝｢繝�Ν繧貞､画鋤繝��繝ｫ繧堤畑縺�※mlmodel繝輔ぃ繧､繝ｫ繧剃ｽ懊ｊ縲√い繝励Μ繧ｱ繝ｼ繧ｷ繝ｧ繝ｳ縺ｮ荳ｭ縺ｧ隱ｭ縺ｿ霎ｼ繧縺ｮ縺ｿ縺ｧ縲∵ｷｱ螻､蟄ｦ鄙偵�謗ｨ隲悶ｒ邁｡蜊倥↓螳溯｣�☆繧九％縺ｨ縺悟�譚･繧九�CoreML縺ｯ縲√Δ繝�Ν縺ｮ貍皮ｮ励ｒCPU縲；PU縺ｮ縺ｩ縺｡繧峨〒蜃ｦ逅�☆繧九°繧定�蜍慕噪縺ｫ蛻､譁ｭ縺怜ｮ溯｡後☆繧九ゅ＠縺九＠縲∝ｮ溯｣�＆繧後※縺�ｋ繝ｬ繧､繝､繝ｼ縺ｮ遞ｮ鬘槭�髯仙ｮ壹＆繧後※縺�※縲∝ｯｾ蠢懊＆繧後※縺�↑縺�眠隕上↓髢狗匱縺輔ｌ縺溘Ξ繧､繝､繝ｼ繧剃ｽｿ逕ｨ縺励◆縺��ｴ蜷医↓縲∽ｽ守ｴ夊ｨ隱槭〒縺ゅｋMetal Shading Language縺ｧ繝ｬ繧､繝､繝ｼ縺ｮ蜃ｦ逅�ｒ譖ｸ縺丞ｿ�ｦ√′縺ゅｋ縺溘ａ縲�ｫ伜ｺｦ縺ｪ繧ｹ繧ｭ繝ｫ縺瑚ｦ∵ｱゅ＆繧後ｋ縲�

4 Caffe2C(Chainer2C)

Tanno繧峨�縲∝ｭｦ鄙呈ｸ医∩繝｢繝�Ν繝輔ぃ繧､繝ｫ繧段OS荳翫〒蜍穂ｽ懷庄閭ｽ縺ｫ縺吶ｋ豺ｱ螻､蟄ｦ鄙偵Δ繝�Ν繧ｳ繝ｳ繝舌�繧ｿ縲，affe2C(Chainer2C)繧帝幕逋ｺ縺励◆[#!caffe2c!#]縲ゅ％繧後�縲，affe(Chainer)縺ｧ蟄ｦ鄙偵＠縺溷ｾ後↓逕滓�縺輔ｌ繧九ヱ繝ｩ繝｡繝ｼ繧ｿ繝輔ぃ繧､繝ｫ縺九ｉ縲√Δ繝舌う繝ｫ遶ｯ譛ｫ縺ｧ繧ょｮ溯｡悟庄閭ｽ縺ｪC險隱槭�繧ｳ繝ｼ繝峨ｒ閾ｪ蜍慕函謌舌☆繧九ｂ縺ｮ縺ｧ縺ゅｋ縲ょ�縺ｦ縺ｮ蟄ｦ鄙偵ヱ繝ｩ繝｡繝ｼ繧ｿ縺悟ｮ壽焚驟榊�縺ｨ縺励※C險隱槭さ繝ｼ繝峨↓邨�∩霎ｼ縺ｾ繧後∝ｭｦ鄙呈ｸ医∩繝｢繝�Ν繝輔ぃ繧､繝ｫ繧貞ｮ溯｡後☆繧九◆繧√↓蠢�ｦ√↑繝輔ぃ繧､繝ｫ繧貞�縺ｦ蜷ｫ繧薙□C險隱槭さ繝ｼ繝峨ｒ逕滓�縺吶ｋ縲ゅ∪縺溘�ｫ倬溷喧縺ｮ蟾･螟ｫ縺ｨ縺励※im2col謫堺ｽ懊↓繧医ｊ逡ｳ縺ｿ霎ｼ縺ｿ貍皮ｮ励ｒ陦悟�遨阪〒險育ｮ励〒縺阪ｋ繧医≧縺ｫ縺励�ｫ倬溯｡悟�貍皮ｮ励Λ繧､繝悶Λ繝ｪ縺ｧ縺ゅｋBLAS繧貞茜逕ｨ縺吶ｋ縺薙→縺ｧSIMD(NEON)蜻ｽ莉､縲√�繝ｫ繝√せ繝ｬ繝�ラ蜃ｦ逅�ｒ陦後▲縺ｦ縺�ｋ縲ゅ＠縺九＠縲，affe2C(Chainer2C)縺ｯiOS縺ｨAndroid荳｡蟇ｾ蠢懊〒縺ゅｋ縺溘ａGPU縺ｯ菴ｿ逕ｨ縺励※縺�↑縺��

縺昴％縺ｧ譛ｬ遐皮ｩｶ縺ｧ縺ｯ縲�ｫ伜ｺｦ縺ｪ繧ｹ繧ｭ繝ｫ繧貞ｿ�ｦ√→縺励↑縺�Δ繝舌う繝ｫ豺ｱ螻､蟄ｦ鄙偵い繝励Μ繧ｱ繝ｼ繧ｷ繝ｧ繝ｳ縺ｮ菴懈�繧貞庄閭ｽ縺ｨ縺吶ｋ繧ｳ繝ｳ繝舌�繧ｿ縺ｮ菴懈�繧堤岼謖�☆縲ゅ∪縺溘（OS縺ｫ迚ｹ蛹悶☆繧九％縺ｨ縺ｫ繧医ｊCPU繧医ｊ繧よｼ皮ｮ怜�逅��蜉帙�蜆ｪ繧後◆GPU繧貞茜逕ｨ縺励（OS荳翫〒縺ｮ貍皮ｮ励�鬮倬溷喧繧貞峙繧九�

3 豺ｱ螻､蟄ｦ鄙偵い繝励Μ繧ｱ繝ｼ繧ｷ繝ｧ繝ｳ縺ｮ
菴懈�謇矩��

譛ｬ遐皮ｩｶ縺ｮ繧ｳ繝ｳ繝舌�繧ｿ繧堤畑縺�◆豺ｱ螻､蟄ｦ鄙偵Δ繝舌う繝ｫ繧｢繝励Μ繧ｱ繝ｼ繧ｷ繝ｧ繝ｳ縺ｮ菴懈�縺ｮ謇矩��↓縺､縺�※隱ｬ譏弱☆繧九�

蟄ｦ鄙堤畑繝��繧ｿ繧ｻ繝�ヨ縺ｮ逕ｨ諢上☆繧九�
豺ｱ螻､蟄ｦ鄙偵ヵ繝ｬ繝ｼ繝�繝ｯ繝ｼ繧ｯ縺ｮChainer繧堤畑縺�※繝阪ャ繝医Ρ繝ｼ繧ｯ繧貞ｭｦ鄙偵＠縲√Δ繝�Ν繝輔ぃ繧､繝ｫ繧剃ｽ懈�縺吶ｋ縲�
繧ｳ繝ｳ繝舌�繧ｿChainer2S繧堤畑縺�※蟄ｦ鄙呈ｸ医∩縺ｮ繝｢繝�Ν繝輔ぃ繧､繝ｫ縺九ｉSwift險隱槭�繧ｳ繝ｼ繝峨→繝代Λ繝｡繝ｼ繧ｿ繝輔ぃ繧､繝ｫ繧堤函謌舌☆繧九�
iOS豺ｱ螻､蟄ｦ鄙偵い繝励Μ繧ｱ繝ｼ繧ｷ繝ｧ繝ｳ縺ｮGUI驛ｨ蛻��繧ｳ繝ｼ繝峨ｒ菴懈�縺吶ｋ縲�
逕滓�縺励◆Swift險隱槭�繧ｳ繝ｼ繝峨√ヱ繝ｩ繝｡繝ｼ繧ｿ繝輔ぃ繧､繝ｫ縲；UI縺ｮ繧ｳ繝ｼ繝峨°繧峨い繝励Μ繧ｱ繝ｼ繧ｷ繝ｧ繝ｳ繧剃ｽ懈�縺吶ｋ縲�

縺ｾ縺壹∬ｨ育ｮ玲ｩ滉ｸ翫〒豺ｱ螻､蟄ｦ鄙偵ヵ繝ｬ繝ｼ繝�繝ｯ繝ｼ繧ｯ縺ｧ縺ゅｋChainer繧堤畑縺�※繝阪ャ繝医Ρ繝ｼ繧ｯ繧貞ｭｦ鄙偵＠縲∝ｭｦ鄙呈ｸ医∩繝｢繝�Ν繝輔ぃ繧､繝ｫ繧堤畑諢上☆繧九�Chainer縺ｧ縺ｯ縲√ロ繝�ヨ繝ｯ繝ｼ繧ｯ縺ｧ荳蠎ｦ鬆�ｼ晄成險育ｮ励ｒ陦後≧縺ｨ縲√ロ繝�ヨ繝ｯ繝ｼ繧ｯ縺ｮ蜷�Ξ繧､繝､繝ｼ縺ｯ繝√ぉ繝ｼ繝ｳ縺ｫ繧医▲縺ｦ郢九′繧九ゅ％繧後↓繧医ｊ縲∝�蜉帙°繧峨ロ繝�ヨ繝ｯ繝ｼ繧ｯ繧帝■繧九％縺ｨ縺悟庄閭ｽ縺ｫ縺ｪ繧翫∝推螻､縺ｮ遞ｮ鬘槭ｄ繝代Λ繝｡繝ｼ繧ｿ縲√ヵ繧｣繝ｫ繧ｿ繝ｼ繧ｵ繧､繧ｺ遲峨�諠��ｱ繧貞叙蠕励☆繧九ゅ％繧後ｉ縺ｮ諠��ｱ縺九ｉ縲ヾwift險隱槭�繧ｳ繝ｼ繝峨→繝代Λ繝｡繝ｼ繧ｿ繝輔ぃ繧､繝ｫ繧堤函謌舌☆繧九ゅ∪縺溘√き繝｡繝ｩ縺九ｉ逕ｻ蜒上�蜿門ｾ励ｄGUI縺ｮ繧ｳ繝ｼ繝�ぅ繝ｳ繧ｰ繧定｡後＞縲√ヱ繝ｩ繝｡繝ｼ繧ｿ繝輔ぃ繧､繝ｫ縺ｪ縺ｩ縺ｨ蜷医ｏ縺帙ｋ縺薙→縺ｧ豺ｱ螻､蟄ｦ鄙偵い繝励Μ繧ｱ繝ｼ繧ｷ繝ｧ繝ｳ繧剃ｽ懈�縺吶ｋ縺薙→縺後〒縺阪ｋ縲よｷｱ螻､蟄ｦ鄙偵い繝励Μ繧ｱ繝ｼ繧ｷ繝ｧ繝ｳ縺ｮ菴懈�縺ｮ豬√ｌ蝗ｳ繧剃ｻ･荳九�蝗ｳ縺ｫ遉ｺ縺吶�

**Figure:** 豺ｱ螻､蟄ｦ鄙偵い繝励Μ繧ｱ繝ｼ繧ｷ繝ｧ繝ｳ縺ｮ菴懈�縺ｮ豬√ｌ

4 謇区ｳ�

1 Chainer2S

Chainer縺ｧ菴ｿ逕ｨ縺吶ｋ逕ｻ蜒上↑縺ｩ縺ｮ蜈･蜉帙ｄ繝阪ャ繝医Ρ繝ｼ繧ｯ縺ｮ荳ｭ髢灘�蜉帙↑縺ｩ縺ｮ繝��繧ｿ縺ｯ縲∝腰縺ｪ繧九�繧ｯ繝医Ν縺ｧ縺ｯ縺ｪ縺上∬ｨ育ｮ励げ繝ｩ繝輔ｒ菫晄戟縺吶ｋVariable縺ｧ讒区�縺吶ｋ蠢�ｦ√′縺ゅｋ縲ゅ％縺ｮVariable縺ｨ縺�≧讒矩�菴薙ｒ菴ｿ逕ｨ縺吶ｋ縺薙→縺ｫ繧医▲縺ｦ繝阪ャ繝医Ρ繝ｼ繧ｯ縺ｧ鬆�ｼ晄成險育ｮ励ｒ荳蠎ｦ陦後≧縺薙→縺ｧ縲√ロ繝�ヨ繝ｯ繝ｼ繧ｯ縺ｮ蜷�ヮ繝ｼ繝峨�繝√ぉ繝ｼ繝ｳ縺ｧ郢九′繧翫��ｼ晄成險育ｮ励ｒ縺吶ｋ縺薙→縺悟庄閭ｽ縺ｫ縺ｪ繧九�

譛ｬ遐皮ｩｶ縺ｧ縺ｯ縲√％縺ｮ讖溯�繧貞茜逕ｨ縺励※縲∽ｸ蠎ｦ鬆�ｼ晄成險育ｮ励ｒ陦後≧縺薙→縺ｧ繝阪ャ繝医Ρ繝ｼ繧ｯ縺ｮ蜷�ヮ繝ｼ繝峨ｒ繝√ぉ繝ｼ繝ｳ縺ｧ郢九￡繧九ゅ％繧後↓繧医ｊ縲√ロ繝�ヨ繝ｯ繝ｼ繧ｯ縺ｮ蜃ｺ蜉帙°繧牙ｱ樊ｧcreator繧貞ｾ励ｋ縺薙→縺ｧ繝阪ャ繝医Ρ繝ｼ繧ｯ譛蠕後�繝ｬ繧､繝､繝ｼ縺後←縺ｮ繧医≧縺ｪ繝ｬ繧､繝､繝ｼ縺ｧ縺ゅｋ縺九ｒ遏･繧九％縺ｨ縺後〒縺阪ｋ縲ゅ◎縺ｮ繝ｬ繧､繝､繝ｼ縺ｮinputs[0]繧貞ｾ励ｋ縺薙→縺ｧ縺昴�繝ｬ繧､繝､繝ｼ縺ｸ縺ｮ蜈･蜉�(1縺､蜑阪�繝ｬ繧､繝､繝ｼ縺ｮ蜃ｺ蜉�)繧貞ｾ励ｋ縺薙→縺後〒縺阪ｋ縲ょ酔讒倥↓creator繧定ｪｿ縺ｹ縺ｦ縺昴�蜈･蜉帙ｒ霎ｿ繧九％縺ｨ繧堤ｹｰ繧願ｿ斐☆縺薙→縺ｧ繝阪ャ繝医Ρ繝ｼ繧ｯ蜈ｨ縺ｦ繧帝■繧九ゅ％縺ｮ譎ゅ√Ξ繧､繝､繝ｼ縺檎糞縺ｿ霎ｼ縺ｿ螻､繧��邨仙粋螻､縺ｪ縺ｩ縺ｮ蝣ｴ蜷医（nputs縺ｮ繝ｪ繧ｹ繝医↓驥阪∩縺ｨ繝舌う繧｢繧ｹ縺ｮ繝代Λ繝｡繝ｼ繧ｿ繧呈干縺医※縺翫ｊ縲（nputs[1]縺ｫ驥阪∩縺ｮ繝代Λ繝｡繝ｼ繧ｿ縲（nputs[2]縺ｫ繝舌う繧｢繧ｹ縺ｮ繝代Λ繝｡繝ｼ繧ｿ縺梧�ｼ邏阪＠縺ｦ縺ゅｋ縲ゅ％繧後ｒ蝗ｳ隗｣縺励◆繧ゅ�繧貞峙縺ｨ縺励※莉･荳九↓遉ｺ縺吶ゅ∪縺溘∫ｰ｡蜊倥↑CNN縺ｮ萓九ｒ蝗ｳ縺ｫ遉ｺ縺吶�

縺薙�繧医≧縺ｫ繝阪ャ繝医Ρ繝ｼ繧ｯ縺ｮ蜃ｺ蜉帙°繧峨ロ繝�ヨ繝ｯ繝ｼ繧ｯ縺ｮ譛蛻昴�繝ｬ繧､繝､繝ｼ縺ｾ縺ｧ繧定ｾｿ繧翫√ロ繝�ヨ繝ｯ繝ｼ繧ｯ縺ｮ蜷�Ξ繧､繝､繝ｼ縺ｮ遞ｮ鬘槭ｄ繝代Λ繝｡繝ｼ繧ｿ縺ｪ縺ｩ縺ｮ諠��ｱ繧偵∪縺ｨ繧√※1縺､縺ｮ繝ｪ繧ｹ繝医→縺励※菴懈�縺吶ｋ縲ゅ◎縺ｮ繝ｪ繧ｹ繝医ｒ逕ｨ縺�※Swift險隱槭�繝阪ャ繝医Ρ繝ｼ繧ｯ縺ｮ繧ｳ繝ｼ繝峨→繝代Λ繝｡繝ｼ繧ｿ縺ｮ繝舌う繝翫Μ繝輔ぃ繧､繝ｫ繧剃ｽ懈�縺吶ｋ縲４wift險隱槭�繧ｳ繝ｼ繝峨�菴懈�縺ｫ縺､縺�※縺ｯ縲�4.2遽縺ｧ隱ｬ譏弱☆繧九ゅヰ繧､繝翫Μ繝輔ぃ繧､繝ｫ縺ｯ縲∝推螻､縺ｮ驥阪∩縺ｨ繝舌う繧｢繧ｹ繧偵◎繧後◇繧悟�縺代※繝輔ぃ繧､繝ｫ蛹悶☆繧九ゅ％縺ｮ譎ゅ∫糞縺ｿ霎ｼ縺ｿ螻､縺ｮ驥阪∩繝代Λ繝｡繝ｼ繧ｿ縺ｮ繧ｷ繧ｧ繧､繝励�[outputChannels][kernelHeight][kernelWidth][inputChannels]縲∝�邨仙粋螻､縺ｮ驥阪∩縺ｮ繧ｷ繧ｧ繧､繝励�[outputChannels][inputChannels]縺ｧ縺ゅｋ蠢�ｦ√′縺ゅｋ縲よｳｨ諢冗せ縺ｨ縺励※縲∫糞縺ｿ霎ｼ縺ｿ螻､縺ｮ逶ｴ蠕後�蜈ｨ邨仙粋螻､縺ｮ驥阪∩繝代Λ繝｡繝ｼ繧ｿ縺ｮ繧ｷ繧ｧ繧､繝励�逡ｳ縺ｿ霎ｼ縺ｿ螻､縺ｨ蜷梧ｧ倥↓縲ーoutputChannels][kernelHeight][kernelWidth][inputChannels]縺ｨ縺励↑縺代ｌ縺ｰ縺ｪ繧峨↑縺��

**Figure:** Chainer縺ｫ縺翫￠繧九ロ繝�ヨ繝ｯ繝ｼ繧ｯ讒矩�

**Figure:** CNN縺ｮ萓�

2 iOS荳翫∈縺ｮ螳溯｣�

1 MPSNNGraph

譛ｬ遐皮ｩｶ縺ｧ菴懈�縺励◆繧ｳ繝ｳ繝舌�繧ｿChainer2S縺檎函謌舌☆繧九ロ繝�ヨ繝ｯ繝ｼ繧ｯ縺ｮ繧ｳ繝ｼ繝峨�縲｀etal Performance Shaders(MPS)繝輔Ξ繝ｼ繝�繝ｯ繝ｼ繧ｯ縺ｮ荳驛ｨ縺ｧ縺ゅｋMPSNNGraph繧ｯ繝ｩ繧ｹ繧貞茜逕ｨ縺励※縺�ｋ縲�MPS繝輔Ξ繝ｼ繝�繝ｯ繝ｼ繧ｯ縺ｯ縲；PU荳翫〒逕ｻ蜒丞�逅�ｄ陦悟�貍皮ｮ励↑縺ｩ繧貞ｮ溯｡後＆縺帙ｋ險育ｮ励き繝ｼ繝阪Ν縺ｮ繝ｩ繧､繝悶Λ繝ｪ縺ｧ縺ゅｊ縲｀PS繧剃ｽｿ逕ｨ縺吶ｋ縺薙→縺ｧ豺ｱ螻､蟄ｦ鄙偵�GPU螳溯｡後ｒ螳溽樟縺励※縺�ｋ縲�MPSNNGraph縺ｯ縲√ル繝･繝ｼ繝ｩ繝ｫ繝阪ャ繝医Ρ繝ｼ繧ｯ荳ｭ縺ｮ逕ｻ蜒上→繝輔ぅ繝ｫ繧ｿ繝弱�繝峨′譛驕ｩ蛹悶＆繧後◆繧ｰ繝ｩ繝戊｡ｨ迴ｾ縺ｧ縺ゅｋ縲ゅげ繝ｩ繝輔ｒ讒狗ｯ峨＠縺滓凾縺ｫ隗｣譫舌＆繧後√←縺ｮ繝弱�繝峨′蜈･蜉帙↓蠢�ｦ√〒縺ゅｊ縲√←縺ｮ繝弱�繝峨′蜃ｺ蜉帙→縺励※逕滓�縺輔ｌ繧九°縺梧ｱｺ縺ｾ繧九ゅ％繧後↓繧医ｊ縲∝�蜉帙→縺励※逕滓�縺輔ｌ繧九ヮ繝ｼ繝峨ｒ險育ｮ励☆繧九◆繧√↓蠢�ｦ√〒縺ｪ縺�ヮ繝ｼ繝峨�辟｡隕悶＠縲√＞縺上▽縺九�繝弱�繝峨�繝代ヵ繧ｩ繝ｼ繝槭Φ繧ｹ蜷台ｸ翫�縺溘ａ縺ｫ莉悶�繝弱�繝峨→蜀�Κ逧�↓騾｣邨舌＠縺溘げ繝ｩ繝輔→縺ｪ繧九�

2 MPSNNGraph縺ｮ螳溯｣�ｾ�

MPSNNGraph縺ｮ螳溯｣�ｾ九→縺励※VGG16[#!vgg16!#]縺ｮ螳溯｣�ｒ蝗ｳ

縺ｨ縺励※莉･荳九↓遉ｺ縺吶�MPSCNNConvolutionDataSource髢｢謨ｰ縺ｫ繧医▲縺ｦ縲√ヰ繧､繝翫Μ繝輔ぃ繧､繝ｫ縺九ｉ驥阪∩繧�ヰ繧､繧｢繧ｹ縺ｮ繝代Λ繝｡繝ｼ繧ｿ縺ｮ繝ｭ繝ｼ繝峨ｒ陦後≧縲ゅ∪縺溘｀PSCNNConvolutionDescriptor髢｢謨ｰ縺ｫ繧医▲縺ｦ縲∝�蜉帙メ繝｣繝阪Ν繧��蜉帙メ繝｣繝阪Ν縲√ヵ繧｣繝ｫ繧ｿ繝ｼ繧ｵ繧､繧ｺ縲∵ｴｻ諤ｧ蛹夜未謨ｰ縺ｪ縺ｩ縺ｮ險ｭ螳壹ｒ陦後≧縲ゅ％繧後ｉ�偵▽縺ｮ髢｢謨ｰ繧貞他縺ｳ蜃ｺ縺僖ataSource髢｢謨ｰ繧剃ｽ懈�縺吶ｋ縺薙→縺ｧ逡ｳ縺ｿ霎ｼ縺ｿ螻､繧��邨仙粋螻､縺ｮ繝弱�繝峨ｒ螳溽樟縺励※縺�ｋ縲ゅ％縺ｮ譎ゅ∝�邨仙粋螻､縺ｮMPSCNNConvolutionDescriptor縺ｫ蜈･蜉帙☆繧九ヵ繧｣繝ｫ繧ｿ繝ｼ繧ｵ繧､繧ｺ縺ｯ1 x 1縺ｨ縺吶ｋ縲ゅ＠縺九＠縲∫糞霎ｼ縺ｿ螻､縺ｮ逶ｴ蠕後�蜈ｨ邨仙粋螻､縺ｧ縺ｯ縲｀PSCNNConvolutionDescriptor縺ｫ蜈･蜉帙☆繧九ヵ繧｣繝ｫ繧ｿ繝ｼ繧ｵ繧､繧ｺ縺ｯkernelHeight x kernelWidth縺ｨ縺励（nputChannels縺ｯ蜑阪�逡ｳ縺ｿ霎ｼ縺ｿ螻､縺ｮoutputChannnels縺ｨ縺吶ｋ蠢�ｦ√′縺ゅｋ縲�

螳溯｣�凾縺ｮ蝠城｡檎せ縺ｨ縺励※莉･荳九�縺薙→縺梧嫌縺偵ｉ繧後ｋ縲�

繧ｫ繝｡繝ｩ縺九ｉ縺ｮ蜈･蜉帷判蜒上�繝√Ε繝阪Ν縺ｯRGB縺ｧ縲∝ｭｦ鄙呈ｸ医∩繝｢繝�Ν縺ｯ蜈･蜉帷判蜒上�繝√Ε繝阪Ν縺沓GR縺ｧ縺ゅｋ縺溘ａ縲ヽGB縺九ｉBGR縺ｫ螟画鋤縺励↑縺代ｌ縺ｰ縺ｪ繧峨↑縺��
蟄ｦ鄙呈ｸ医∩繝｢繝�Ν縺ｧ縺ｯ縲∝�蜉帷判蜒上°繧牙ｭｦ鄙呈凾縺ｮ繝��繧ｿ繧ｻ繝�ヨ縺ｮ蟷ｳ蝮�､繧貞ｼ輔＞縺溽判蜒上ｒ蜈･蜉帙→縺励※縺�ｋ縺溘ａ縲√き繝｡繝ｩ縺九ｉ縺ｮ蜈･蜉帙°繧峨ｂ蜷梧ｧ倥↓蟷ｳ蝮�､繧貞ｼ輔＞縺溽判蜒上ｒ蜈･蜉帙→縺励↑縺代ｌ縺ｰ縺ｪ繧峨↑縺��
MPSBilinearScaleNode縺ｫ繧医▲縺ｦ蜈･蜉帷判蜒上ｒ繝ｪ繧ｵ繧､繧ｺ縺励◆蝣ｴ蜷医∝�蜉帷判蜒上�蜷�ヴ繧ｯ繧ｻ繝ｫ蛟､縺�0縺九ｉ255縺ｧ縺ｯ縺ｪ縺�0縺九ｉ1縺ｫ豁｣隕丞喧縺輔ｌ繧九�

縺薙ｌ繧峨�蝠城｡檎せ繧偵〃GG16縺ｮ譛蛻昴�逡ｳ縺ｿ霎ｼ縺ｿ螻､縺ｧ縺ゅｋconv1縺ｮ蜑阪↓逡ｳ縺ｿ霎ｼ縺ｿ螻､conv0縺ｨ縺励※螳溯｣�☆繧九％縺ｨ縺ｧ縲�㍾縺ｿ縺ｮ貍皮ｮ鈴Κ蛻�〒逕ｻ蜒上�繝√Ε繝阪Ν繧坦GB縺九ｉBGR縺ｫ螟画峩縺ｨ蜷�ヴ繧ｯ繧ｻ繝ｫ蛟､繧�0縺九ｉ255縺ｮ遽�峇縺ｫ謌ｻ縺励√ヰ繧､繧｢繧ｹ縺ｮ貍皮ｮ鈴Κ蛻�〒蟄ｦ鄙呈凾縺ｮ繝��繧ｿ繧ｻ繝�ヨ縺ｮ蟷ｳ蝮�､繧貞ｼ輔￥縺薙→縺ｫ繧医ｊ隗｣豎ｺ縺励※縺�ｋ縲Ｄonv0縺ｮ讎ら払蝗ｳ繧貞峙縺ｨ縺励※莉･荳九↓遉ｺ縺吶�

**Figure:** MPSNNGraph繧堤畑縺�◆VGG16縺ｮ螳溯｣�

**Figure:** conv0縺ｮ讎ら払蝗ｳ

繧｢繝励Μ繧ｱ繝ｼ繧ｷ繝ｧ繝ｳ縺ｮ螳溯｡梧凾縺ｫViewController繧ｯ繝ｩ繧ｹ蜀��viewDidLoad髢｢謨ｰ縺悟他縺ｳ蜃ｺ縺輔ｌ縲√％縺ｮ譎ゅ↓VGG16繧ｯ繝ｩ繧ｹ繧貞ｮ溯｡後☆繧九％縺ｨ縺ｧ縲∝峙縺ｮ驛ｨ蛻�′蜻ｼ縺ｳ蜃ｺ縺輔ｌ縺ｦ繧ｰ繝ｩ繝輔′讒狗ｯ峨＆繧後ｋ縲ゅ◎縺ｮ蠕後√き繝｡繝ｩ縺九ｉ縺ｮ蜈･蜉帙ｒMTLTexture縺ｨ縺励※蜿励￠蜿悶▲縺滓凾縺ｫ縲√◎縺ｮTexture繧偵げ繝ｩ繝輔�WithSourceImages縺ｨ縺励※蜈･蜉帙☆繧九％縺ｨ縺ｫ繧医▲縺ｦ繧ｰ繝ｩ繝輔ｒ螳溯｡後＠縲∫ｵ先棡繧貞ｾ励ｋ縺薙→縺後〒縺阪ｋ縲�

5 螳滄ｨ�

譛ｬ遐皮ｩｶ縺ｧ縺ｯ縲（OS荳翫〒逕ｻ蜒剰ｪ崎ｭ倥す繧ｹ繝�Β繧貞ｮ溯｣�＠縲∵ｷｱ螻､蟄ｦ鄙偵�貍皮ｮ怜�逅�↓CPU縺ｮ縺ｿ繧堤畑縺�◆螳溯｣�→GPU縺ｮ縺ｿ繧堤畑縺�◆螳溯｣��蜃ｦ逅�溷ｺｦ縺ｫ髢｢縺吶ｋ豈碑ｼ�ｮ滄ｨ薙→縲∵ｷｱ螻､蟄ｦ鄙偵�貍皮ｮ怜�逅�↓GPU繧堤畑縺�ｋ3遞ｮ縺ｮ螳溯｣�婿豕輔�蜃ｦ逅�溷ｺｦ縺ｫ髢｢縺吶ｋ豈碑ｼ�ｮ滄ｨ薙��偵▽縺ｮ螳滄ｨ薙ｒ陦後▲縺溘ゅ％縺薙〒縺ｯ縺昴ｌ縺槭ｌ縺ｮ螳滄ｨ薙�險ｭ螳壹→邨先棡繧堤､ｺ縺吶�

1 螳滄ｨ薙�險ｭ螳�

縺昴ｌ縺槭ｌ縺ｮ螳滄ｨ薙↓縺翫＞縺ｦ縲∫判蜒剰ｪ崎ｭ倥い繝励Μ繧ｱ繝ｼ繧ｷ繝ｧ繝ｳ繧貞ｮ溯｣�＠縲∬ｪ崎ｭ倥↓隕√＠縺滓凾髢薙ｒ豎ゅａ繧九％縺ｨ縺ｧ豈碑ｼ�ｒ陦後▲縺溘りｪ崎ｭ俶凾髢薙�縲∬ｨ域ｸｬ繧�20蝗櫁｡後＞縺昴�蟷ｳ蝮�凾髢薙→縺励◆縲よｼ皮ｮ怜�逅�↓GPU繧堤畑縺�◆逕ｻ蜒剰ｪ崎ｭ倥い繝励Μ繧ｱ繝ｼ繧ｷ繝ｧ繝ｳ縺ｯ縲，oreML縺ｨMPS縺ｨMPS繝ｩ繧､繝悶Λ繝ｪ縺ｮ1縺､縺ｧ縺ゅｋMPSNNGraph縺ｮ3遞ｮ縺ｫ縺､縺�※縺昴ｌ縺槭ｌ螳溯｣�＠縺溘ゅ◆縺�縺励｀PS縺ｨMPSNNGraph縺ｯ豺ｱ螻､蟄ｦ鄙偵�貍皮ｮ怜�逅�ｒ蜈ｨ縺ｦGPU縺ｮ縺ｿ縺ｧ陦後≧縺後，oreML縺ｯ貍皮ｮ怜�逅�ｒ髫�阡ｽ縺励※陦後≧縺溘ａ縲∝�逅��荳驛ｨ蛻�ｒCPU縺ｧ陦後▲縺ｦ縺�ｋ蜿ｯ閭ｽ諤ｧ縺後≠繧九よｼ皮ｮ怜�逅�↓CPU縺ｮ縺ｿ繧堤畑縺�◆螳溯｣�→GPU縺ｮ縺ｿ繧堤畑縺�◆螳溯｣��蜃ｦ逅�溷ｺｦ縺ｫ髢｢縺吶ｋ豈碑ｼ�ｮ滄ｨ薙〒縺ｯ縲∬ｩ穂ｾ｡逕ｨ繝�ヰ繧､繧ｹ繧段Pad pro(9.7繧､繝ｳ繝� A9X RAM2GB)縲∬ｪ崎ｭ倥ロ繝�ヨ繝ｯ繝ｼ繧ｯ繧但lexNet[#!alexnet!#]縺ｨ縺励◆縲ょ�逅�ｒGPU縺ｮ縺ｿ縺ｧ陦後≧逕ｻ蜒剰ｪ崎ｭ倥い繝励Μ繧ｱ繝ｼ繧ｷ繝ｧ繝ｳ縺ｯMPSNNGraph繧堤畑縺�※螳溯｣�＠縲∝�逅�ｒCPU縺ｮ縺ｿ縺ｧ陦後≧Chainer2C繧堤畑縺�※螳溯｣�＠縺溽判蜒剰ｪ崎ｭ倥い繝励Μ繧ｱ繝ｼ繧ｷ繝ｧ繝ｳ縺ｨ豈碑ｼ�＠縺溘よｼ皮ｮ怜�逅�↓GPU繧堤畑縺�ｋ�鍋ｨｮ縺ｮ螳溯｣�婿豕輔�豈碑ｼ�ｮ滄ｨ薙↓縺翫＞縺ｦ縺ｯ縲∬ｩ穂ｾ｡逕ｨ繝�ヰ繧､繧ｹ繧段Phone 8 Plus(A11 RAM3GB)縲∬ｪ崎ｭ倥ロ繝�ヨ繝ｯ繝ｼ繧ｯ繧歎GG16[#!vgg16!#]縺ｨ縺励◆縲� 2縺､縺ｮ螳滄ｨ薙�蜈ｱ騾壹�險ｭ螳壹→蜷�ｮ滄ｨ灘崋譛峨�險ｭ螳壹ｒ莉･荳九↓縺ｾ縺ｨ繧√ｋ縲�

$\begin{itembox}[l]{2縺､縺ｮ螳滄ｨ薙�蜈ｱ騾夊ｨｭ螳嘲繝ｻ險域ｸｬ縺吶ｋ譎る俣縺ｯ縲∬ｪ�... ...ｻ險域ｸｬ縺ｯ20蝗櫁｡後＞縲√◎縺ｮ蟷ｳ蝮�ｒ隱崎ｭ俶凾髢薙→縺励◆縲�\\ \end{itembox}$

$\begin{itembox}[l]{CPU縺ｨGPU縺ｮ驕輔＞縺ｫ繧医ｋ蜃ｦ逅�溷ｺｦ縺ｮ豈碑ｼ�ｮ滄ｨ薙�險ｭ�... ...い繝励Μ繧ｱ繝ｼ繧ｷ繝ｧ繝ｳ縺ｯ縲｀PSNNGraph繧堤畑縺�※螳溯｣�＠縺溘� \end{itembox}$

$\begin{itembox}[l]{GPU繧堤畑縺�◆螳溯｣�婿豕輔�驕輔＞縺ｫ繧医ｋ蜃ｦ逅�溷ｺｦ縺ｮ�... ...輔�縲｀PSNNGraph縲｀PS縲，oreML縺ｮ3遞ｮ鬘槭〒螳溯｣�ｒ陦後▲縺溘� \end{itembox}$

2 螳滄ｨ鍋ｵ先棡

1 CPU縺ｨGPU縺ｮ驕輔＞縺ｫ繧医ｋ蜃ｦ逅�溷ｺｦ豈碑ｼ�

MPSNNGraph繧堤畑縺�※AlexNet[#!alexnet!#]繝阪ャ繝医Ρ繝ｼ繧ｯ縺ｫ繧医ｋ迚ｩ菴楢ｪ崎ｭ倥い繝励Μ繧ｱ繝ｼ繧ｷ繝ｧ繝ｳ繧剃ｽ懈�縺励∬ｨ域ｸｬ繧�20蝗櫁｡後▲縺ｦ隱崎ｭ俶凾髢甜msec]縺ｮ蟷ｳ蝮�ｒ豎ゅａ縺溽ｵ先棡繧定｡ｨ

縺ｨ縺励※莉･荳九↓遉ｺ縺吶り｡ｨ

繧医ｊ縲∵ｷｱ螻､蟄ｦ鄙偵�貍皮ｮ怜�逅�ｒCPU縺ｮ縺ｿ縺ｧ陦後▲縺溷�ｴ蜷医↓豈斐∋縺ｦGPU縺ｮ縺ｿ縺ｧ陦後▲縺溷�ｴ蜷医�譁ｹ縺檎ｴ�3.7蛟阪�騾溷ｺｦ縺ｧ螳溯｡悟庄閭ｽ縺ｨ縺�≧邨先棡縺悟ｾ励ｉ繧後◆縲�

**Table:** AlexNet縺ｫ繧医ｋ迚ｩ菴楢ｪ崎ｭ倥�隱崎ｭ俶凾髢� [msec]
螳溯｣�婿豕�	蟷ｳ蝮�ｪ崎ｭ俶凾髢�
Chainer2C[#!c2calex!#]	134.9
MPSNNgraph	36.4

2 GPU繧堤畑縺�◆螳溯｣�婿豕輔�驕輔＞縺ｫ繧医ｋ蜃ｦ逅�溷ｺｦ豈碑ｼ�

MPSNNGraph縲｀PS縲，oreML繧堤畑縺�※縺昴ｌ縺槭ｌVGG16[#!vgg16!#]繝阪ャ繝医Ρ繝ｼ繧ｯ縺ｫ繧医ｋ迚ｩ菴楢ｪ崎ｭ倥い繝励Μ繧ｱ繝ｼ繧ｷ繝ｧ繝ｳ繧剃ｽ懈�縺励∬ｨ域ｸｬ繧�20蝗櫁｡後▲縺ｦ隱崎ｭ俶凾髢甜msec]縺ｮ蟷ｳ蝮�ｒ豎ゅａ縺溽ｵ先棡繧定｡ｨ

縺ｨ縺励※莉･荳九↓遉ｺ縺吶り｡ｨ

繧医ｊ縲∵悽遐皮ｩｶ縺ｮ繧ｳ繝ｳ繝舌�繧ｿChainer2S繧貞茜逕ｨ縺励※菴懈�縺励◆MPSNNGraph繧貞茜逕ｨ縺励※螳溯｣�＠縺溽黄菴楢ｪ崎ｭ倥い繝励Μ繧ｱ繝ｼ繧ｷ繝ｧ繝ｳ縺梧怙繧る溘＞108.99[msec]縺ｨ縺�≧邨先棡縺ｨ縺ｪ縺｣縺溘�

**Table:** VGG16縺ｫ繧医ｋ迚ｩ菴楢ｪ崎ｭ倥�隱崎ｭ俶凾髢� [msec]
螳溯｣�婿豕�	蟷ｳ蝮�ｪ崎ｭ俶凾髢�	譛騾溯ｪ崎ｭ俶凾髢�	譛驕�ｪ崎ｭ俶凾髢�
CoreML	144.87	134.47	151.00
MPS	155.21	146.72	170.00
MPSNNGraph	108.99	107.67	110.68

6 閠�ｯ�

豺ｱ螻､蟄ｦ鄙偵�貍皮ｮ怜�逅�ｒCPU縺ｮ縺ｿ縺ｧ陦後▲縺溷�ｴ蜷医→GPU縺ｮ縺ｿ縺ｧ陦後▲縺溷�ｴ蜷医→繧呈ｯ碑ｼ�＠縺溷ｮ滄ｨ鍋ｵ先棡縺九ｉ縲∵ｼ皮ｮ怜�逅�ｒCPU縺ｮ縺ｿ縺ｧ陦後▲縺溷�ｴ蜷医↓豈斐∋縺ｦ貍皮ｮ怜�逅�ｒGPU縺ｮ縺ｿ縺ｧ陦後▲縺溷�ｴ蜷医�譁ｹ縺檎ｴ�3.7蛟埼ｫ倬溘〒縺ゅｋ縺薙→縺悟�縺九ｋ縲ゅ％繧後�GPU縺靴PU繧医ｊ繧ゅ�繧ｯ繝医Ν貍皮ｮ励ｄ荳ｦ蛻怜�逅�↓驕ｩ縺励※縺�ｋ縺九ｉ縺ｨ閠�∴繧峨ｌ繧九ゅ◎縺ｮ縺溘ａ縲、lexNet[#!alexnet!#]縺ｧ謗ｨ隲悶ｒ荳蝗櫁｡後≧譎ゅ↓蠢�ｦ√↑貍皮ｮ鈴㍼縺檎ｴ�11蜆�屓縺ｧ縺ゅｊ縲√◎繧後ｈ繧翫ｂ荳蝗槭�謗ｨ隲悶↓蠢�ｦ√↑貍皮ｮ鈴㍼縺悟｢励∴繧九ロ繝�ヨ繝ｯ繝ｼ繧ｯ縺ｫ縺翫＞縺ｦ縺ｯ螳溯｡碁溷ｺｦ縺ｮ蟾ｮ縺梧峩縺ｫ髢九￥縺薙→縺御ｺ域Φ縺輔ｌ繧九ゅ％縺ｮ縺薙→縺九ｉ縲∵怙譁ｰ縺ｮ豺ｱ縺�ロ繝�ヨ繝ｯ繝ｼ繧ｯ繧偵Δ繝舌う繝ｫ遶ｯ譛ｫ荳翫↓螳溯｣�☆繧句�ｴ蜷医↓縺ｯ縲∵ｷｱ螻､蟄ｦ鄙偵�貍皮ｮ怜�逅�↓GPU繧堤畑縺�◆螳溯｣�ｒ縺吶ｋ蠢�ｦ√′縺ゅｋ縺ｨ閠�∴繧峨ｌ繧九�

豺ｱ螻､蟄ｦ鄙偵�貍皮ｮ怜�逅�↓GPU繧堤畑縺�◆螳溯｣�婿豕輔�驕輔＞縺ｫ繧医ｋ蜃ｦ逅�溷ｺｦ繧呈ｯ碑ｼ�＠縺溷ｮ滄ｨ鍋ｵ先棡縺九ｉ縲∝�縺ｦ貍皮ｮ怜�逅�↓GPU繧堤畑縺�※縺�ｋ縺ｫ繧る未繧上ｉ縺哺PSNNGraph縺ｫ繧医ｋ螳溯｣�′蜿悶ｊ蛻�￠騾溘＞縺薙→縺悟�縺九ｋ縲�CoreML縺ｯ繝阪ャ繝医Ρ繝ｼ繧ｯ蜀�Κ縺ｮ蜃ｦ逅�ｒ縺ｩ縺ｮ繧医≧縺ｫ陦後▲縺ｦ縺�ｋ縺九′髫�阡ｽ縺輔ｌ縺ｦ縺�ｋ縺溘ａ莉雁屓縺ｮ邨先棡縺ｨ縺ｪ縺｣縺滓�遒ｺ縺ｪ逅�罰縺ｯ蛻�°繧峨↑縺�ゅ＠縺九＠縲｀PSNNGraph縺ｨMPS縺ｨ縺ｮ蟾ｮ縺ｯ縲｀PSNNGraph縺後げ繝ｩ繝墓ｧ矩�繧貞茜逕ｨ縺励※縺�ｋ縺薙→縺ｧ縲∵ｼ皮ｮ怜�逅��譛驕ｩ蛹悶′陦後ｏ繧後＞縺ｦ縺�ｋ縺薙→縺ｫ繧医ｋ繧ゅ�縺�縺ｨ莠域Φ縺ｧ縺阪ｋ縲ょｾ薙▲縺ｦ縲�16螻､縺九ｉ縺ｪ繧儀GG16[#!vgg16!#]繝阪ャ繝医Ρ繝ｼ繧ｯ繧医ｊ繧よｷｱ縺СesNet50[#!resnet!#]縺ｪ縺ｩ縺ｮ譛譁ｰ縺ｮ繝阪ャ繝医Ρ繝ｼ繧ｯ縺ｧ縺ｯ繧ｰ繝ｩ繝墓ｧ矩�繧貞茜逕ｨ縺励◆縺薙→縺ｫ繧医ｋ諱ｩ諱ｵ縺悟､ｧ縺阪￥縺ｪ繧九→閠�∴繧峨ｌ繧九ゅ

7 縺翫ｏ繧翫↓

1 縺ｾ縺ｨ繧�

豺ｱ螻､蟄ｦ鄙偵ヵ繝ｬ繝ｼ繝�繝ｯ繝ｼ繧ｯ縺ｮChainer繧堤畑縺�※險育ｮ玲ｩ滉ｸ翫〒豺ｱ螻､蟄ｦ鄙偵�蟄ｦ鄙偵ｒ陦後＞縲∫函謌舌＆繧後◆繝｢繝�Ν繝輔ぃ繧､繝ｫ縺九ｉ繝阪ャ繝医Ρ繝ｼ繧ｯ驛ｨ蛻��Swift險隱槭�繧ｳ繝ｼ繝峨→繝代Λ繝｡繝ｼ繧ｿ繧呈�ｼ邏阪＠縺溘ヰ繧､繝翫Μ繝輔ぃ繧､繝ｫ繧堤函謌舌☆繧九さ繝ｳ繝舌�繧ｿChainer2S繧剃ｽ懈�縺励◆縲ゅ％繧後↓繧医ｊ縲（OS遶ｯ譛ｫ荳翫〒螳ｹ譏薙↓豺ｱ螻､蟄ｦ鄙偵�謗ｨ隲悶ｒ陦後≧縺薙→繧貞庄閭ｽ縺ｫ縺励◆縲ゅ∪縺溘｀PSNNGraph繧堤畑縺�※豺ｱ螻､蟄ｦ鄙偵�貍皮ｮ怜�逅�ｒ蜈ｨ縺ｦGPU縺ｧ陦後≧縺薙→縺ｧ縲〃GG16繝阪ャ繝医Ρ繝ｼ繧ｯ[#!vgg16!#]縺ｧ108.99[msec]縺ｨ縺�≧鬮倬溷ｮ溯｡後ｒ蜿ｯ閭ｽ縺ｫ縺励◆縲� 譛ｬ遐皮ｩｶ縺ｧ陦後▲縺滓ｷｱ螻､蟄ｦ鄙偵�貍皮ｮ怜�逅�ｒCPU縺ｮ縺ｿ縺ｧ陦後▲縺溷�ｴ蜷医→GPU縺ｮ縺ｿ縺ｧ陦後▲縺溷�ｴ蜷医�蜃ｦ逅�溷ｺｦ縺ｮ豈碑ｼ�ｮ滄ｨ薙°繧峨、lexNet繝阪ャ繝医Ρ繝ｼ繧ｯ[#!alexnet!#]縺ｫ縺翫￠繧区耳隲匁凾髢薙′CPU縺ｮ縺ｿ縺ｮ蝣ｴ蜷医ｈ繧翫ｂGPU縺ｮ縺ｿ縺ｮ蝣ｴ蜷医�譁ｹ縺�3.7蛟埼ｫ倬溘〒縺ゅｊ縲（OS荳翫↓豺ｱ螻､蟄ｦ鄙偵い繝励Μ繧ｱ繝ｼ繧ｷ繝ｧ繝ｳ繧貞ｮ溯｣�☆繧矩圀縺ｮGPU蛻ｩ逕ｨ縺ｮ蠢�ｦ∵ｧ繧堤､ｺ縺励◆縲ゅ∪縺溘∵ｼ皮ｮ怜�逅�↓GPU繧堤畑縺�ｋ螳溯｣�婿豕輔�驕輔＞縺ｫ繧医ｋ蜃ｦ逅�溷ｺｦ縺ｮ豈碑ｼ�ｮ滄ｨ薙°繧峨（OS荳翫↓豺ｱ螻､蟄ｦ鄙偵い繝励Μ繧ｱ繝ｼ繧ｷ繝ｧ繝ｳ繧貞ｮ溯｣�☆繧区凾縺ｫ縺ｯ縲｀PSNNGraph繧堤畑縺�ｋ螳溯｣�′譛驕ｩ縺ｪ螳溯｣�婿豕輔〒縺ゅｋ縺薙→繧呈�繧峨°縺ｫ縺励◆縲�

2 莉雁ｾ後�隱ｲ鬘�

迴ｾ蝨ｨ縲∵悽遐皮ｩｶ縺ｧ菴懈�縺励◆繧ｳ繝ｳ繝舌�繧ｿChainer2S縺ｯResNet[#!resnet!#]縺ｮ繧医≧縺ｪ譫晏�縺九ｌ縺ｮ縺ゅｋ繝阪ャ繝医Ρ繝ｼ繧ｯ縺ｫ縺ｯ蟇ｾ蠢懊＠縺ｦ縺�↑縺�ゅ∪縺溘｀PSNNGraph蛛ｴ縺ｧ蟇ｾ蠢懊＠縺ｦ縺�ｋ繝ｬ繧､繝､繝ｼ遞ｮ鬘槭�蜈ｨ縺ｦ縺ｫ蟇ｾ蠢懊＠縺ｦ縺�ｋ繧上￠縺ｧ縺ｯ縺ｪ縺�ゅ◎縺ｮ縺溘ａ縲∽ｻ雁ｾ梧椌蛻�°繧後�縺ゅｋ繝阪ャ繝医Ρ繝ｼ繧ｯ繧�ｈ繧雁､壹￥縺ｮ繝ｬ繧､繝､繝ｼ縺ｫ蟇ｾ蠢懊☆繧九％縺ｨ縺ｧ繧医ｊ隍�尅縺ｧ豺ｱ縺�ロ繝�ヨ繝ｯ繝ｼ繧ｯ繝｢繝�Ν繧貞茜逕ｨ蜿ｯ閭ｽ縺ｨ縺ｪ繧翫∫黄菴楢ｪ崎ｭ倥�邊ｾ蠎ｦ蜷台ｸ翫ｒ蝗ｳ繧九％縺ｨ縺後〒縺阪ｋ繧医≧縺ｫ縺ｪ繧翫∫判蜒丞､画鋤縺ｪ縺ｩ讒倥�↑繧ｿ繧ｹ繧ｯ縺ｮ豺ｱ螻､蟄ｦ鄙偵い繝励Μ繧ｱ繝ｼ繧ｷ繝ｧ繝ｳ縺碁幕逋ｺ蜿ｯ閭ｽ縺ｨ縺ｪ繧九ゅｈ縺｣縺ｦ縲√さ繝ｳ繝舌�繧ｿ縺ｮ譫晏�縺九ｌ縺ｮ縺ゅｋ繝阪ャ繝医Ρ繝ｼ繧ｯ縺ｨ螟壹￥縺ｮ繝ｬ繧､繝､繝ｼ遞ｮ縺ｸ縺ｮ蟇ｾ蠢懊′隱ｲ鬘後→縺励※閠�∴繧峨ｌ繧九� 譖ｴ縺ｫ縲∫樟蝨ｨMPSNNGraph縺ｧ縺ｯ閾ｪ繧画眠隕上↓繝輔ぅ繝ｫ繧ｿ繝ｼ繝弱�繝峨ｒ菴懈�縺吶ｋ縺薙→縺ｯ荳榊庄閭ｽ縺ｧ縺ゅｊ縲∝�縺ｦ縺ｮ繝輔ぅ繝ｫ繧ｿ繝ｼ縺ｫ髢｢縺吶ｋ繝弱�繝峨′蟄伜惠縺励※縺�ｋ繧上￠縺ｧ縺ｯ縺ｪ縺�ゅ◎縺ｮ縺溘ａ縲∫樟迥ｶ縺ｧ縺ｯ縺ゅ∪繧贋ｸ闊ｬ逧�〒縺ｪ縺�Ξ繧､繝､繝ｼ繧�眠隕上↓髢狗匱縺輔ｌ縺溘Ξ繧､繝､繝ｼ縺ｯMPSNNGraph縺ｮ繧｢繝��繝��繝医〒霑ｽ蜉�縺輔ｌ繧九∪縺ｧ菴ｿ逕ｨ縺吶ｋ縺薙→縺ｯ縺ｧ縺阪↑縺�ゅ％繧後ｒ隗｣豎ｺ縺吶ｋ縺溘ａ縺ｫ縺ｯ縲∝刈邂怜所縺ｳ荵礼ｮ励ｒ陦後≧繝弱�繝峨ｄ迴ｾ蝨ｨ蛻ｩ逕ｨ蜿ｯ閭ｽ縺ｪ繝輔ぅ繝ｫ繧ｿ繝ｼ繝弱�繝峨↑縺ｩ繧堤ｵ�∩蜷医ｏ縺帙※蜷檎ｾｩ縺ｮ貍皮ｮ励ｒ螳溯｣�☆繧九→縺�≧譁ｹ豕輔′縺ゅｋ縺後√％繧後ｒ陦後≧縺ｨ繧ｳ繝ｼ繝峨′髱槫ｸｸ縺ｫ髮｣隗｣縺ｫ縺ｪ縺｣縺ｦ縺励∪縺�ゅ％繧後ｒ繧ｳ繝ｳ繝舌�繧ｿ蛛ｴ縺ｧ逕滓�蜿ｯ閭ｽ縺ｫ縺吶ｋ縺薙→縺ｧ縲√←縺ｮ繧医≧縺ｪ繝阪ャ繝医Ρ繝ｼ繧ｯ繝｢繝�Ν縺ｫ繧ょｯｾ蠢懷庄閭ｽ縺ｨ縺吶ｋ縺薙→繧りｪｲ鬘後→縺励※閠�∴繧峨ｌ繧九�

No References!

A. MPSNNGraph縺ｧ蛻ｩ逕ｨ蜿ｯ閭ｽ縺ｪ繝弱�繝我ｸ隕ｧ

逡ｳ縺ｿ霎ｼ縺ｿ螻､縺ｮ繝弱�繝�
- MPSCNNBinaryConvolutionNode
- MPSCNNConvolutionNode
- MPSCNNConvolutionTransposeNode
繝励�繝ｪ繝ｳ繧ｰ螻､縺ｮ繝弱�繝�
- MPSCNNPoolingAverageNode
- MPSCNNDilatedPoolingMaxNode
- MPSCNNPoolingL2NormNode
- MPSCNNPoolingMaxNode
- MPSCNNPoolingNode
蜈ｨ邨仙粋螻､縺ｮ繝弱�繝�
- 縲MPSCNNBinaryFullyConnectedNode
- 縲MPSCNNFullyConnectedNode
豢ｻ諤ｧ蛹夜未謨ｰ縺ｮ繝弱�繝�
- 縲MPSCNNNeuronAbsoluteNode
- 縲MPSCNNNeuronELUNode
- 縲MPSCNNNeuronHardSigmoidNode
- 縲MPSCNNNeuronLinearNode
- 縲MPSCNNNeuronPReLUNode
- 縲MPSCNNNeuronReLUNNode
- 縲MPSCNNNeuronReLUNode
- 縲MPSCNNNeuronSigmoidNode
- 縲MPSCNNNeuronSoftPlusNode
- 縲MPSCNNNeuronSoftSignNode
- 縲MPSCNNNeuronTanHNode
- 縲MPSCNNNeuronNode
繧ｽ繝輔ヨ繝槭ャ繧ｯ繧ｹ螻､縺ｮ繝弱�繝�
- 縲MPSCNNCrossChannelNormalizationNode
- 縲MPSCNNLocalContrastNormalizationNode
- 縲MPSCNNSpatialNormalizationNode
- 縲MPSCNNNormalizationNode
縲
繧｢繝��繧ｵ繝ｳ繝励Μ繝ｳ繧ｰ螻､縺ｮ繝弱�繝�
- 縲MPSCNNUpsamplingBilinearNode
- 縲MPSCNNUpsamplingNearestNode
繝ｪ繧ｵ繝ｳ繝励Μ繝ｳ繧ｰ縺ｮ繝弱�繝�
- 縲MPSNNBilinearScaleNode
- 縲MPSNNLanczosScaleNode
- 縲MPSNNScaleNode
- 縲MPSImageTransformProvider
邨仙粋髢｢謨ｰ縺ｮ繝弱�繝�
- 縲MPSNNConcatenationNode
邂苓｡薙ヮ繝ｼ繝�
- 縲MPSNNAdditionNode
- 縲MPSNNSubtractionNode
- 縲MPSNNMultiplicationNode
- 縲MPSNNDivisionNode
- 縲MPSNNBinaryArithmeticNode
繝吶�繧ｹ繧ｯ繝ｩ繧ｹ
- 縲MPSNNFilterNode

B. 螳滄ｨ薙�險域ｸｬ邨先棡

**Table:** MPSNNGraph繧堤畑縺�◆螳溯｣�↓縺翫￠繧帰lexNet縺ｮ隱崎ｭ俶凾髢� [msec]
螳溯｣�婿豕�	MPSNNGraph
險域ｸｬ1蝗樒岼	37.92
險域ｸｬ2蝗樒岼	35.63
險域ｸｬ3蝗樒岼	34.48
險域ｸｬ4蝗樒岼	39.36
險域ｸｬ5蝗樒岼	42.61
險域ｸｬ6蝗樒岼	37.58
險域ｸｬ7蝗樒岼	37.56
險域ｸｬ8蝗樒岼	34.60
險域ｸｬ9蝗樒岼	34.15
險域ｸｬ10蝗樒岼	35.59
險域ｸｬ11蝗樒岼	36.15
險域ｸｬ12蝗樒岼	35.14
險域ｸｬ13蝗樒岼	34.98
險域ｸｬ14蝗樒岼	35.92
險域ｸｬ15蝗樒岼	35.71
險域ｸｬ16蝗樒岼	35.36
險域ｸｬ17蝗樒岼	36.49
險域ｸｬ18蝗樒岼	36.16
險域ｸｬ19蝗樒岼	35.91
險域ｸｬ20蝗樒岼	36.34

**Table:** 蜃ｦ逅�↓GPU繧堤畑縺�◆螳溯｣�婿豕輔�VGG16縺ｮ隱崎ｭ俶凾髢� [msec]
螳溯｣�婿豕�	MPSNNGraph	MPS	CoreML
險域ｸｬ1蝗樒岼	108.01	154.58	138.32
險域ｸｬ2蝗樒岼	108.10	163.07	145.33
險域ｸｬ3蝗樒岼	109.17	150.04	145.99
險域ｸｬ4蝗樒岼	110.39	157.56	140.88
險域ｸｬ5蝗樒岼	109.74	162.90	144.74
險域ｸｬ6蝗樒岼	110.68	154.69	147.91
險域ｸｬ7蝗樒岼	110.12	149.14	144.85
險域ｸｬ8蝗樒岼	109.27	155.21	151.00
險域ｸｬ9蝗樒岼	107.67	151.92	143.00
險域ｸｬ10蝗樒岼	110.34	156.71	134.47
險域ｸｬ11蝗樒岼	108.67	146.72	144.98
險域ｸｬ12蝗樒岼	107.61	149.02	144.54
險域ｸｬ13蝗樒岼	108.74	152.56	143.45
險域ｸｬ14蝗樒岼	108.90	170.00	147.29
險域ｸｬ15蝗樒岼	108.44	155.56	150.01
險域ｸｬ16蝗樒岼	108.70	150.81	149.05
險域ｸｬ17蝗樒岼	109.00	152.90	140.75
險域ｸｬ18蝗樒岼	108.92	153.52	152.26
險域ｸｬ19蝗樒岼	109.00	157.03	142.53
險域ｸｬ20蝗樒岼	108.31	160.23	146.03

Footnotes

... iOS ¹: https://github.com/aleph7/caffe
...縲ゝensorFlow ²: https://www.tensorflow.org/mobile/
...縲＾penCV ³: https://github.com/opencv/opencv/wiki/Deep-Learning-in-OpenCV
...縺ｪ縺ｩ縺後≠繧九ゅ∪縺溘∵里蟄倥�繝輔Ξ繝ｼ繝�繝ｯ繝ｼ繧ｯ荳翫↓險ｭ險医＆繧後√Δ繝舌う繝ｫ縺ｸ縺ｮ驕ｩ逕ｨ縺瑚��縺輔ｌ縺溘ｂ縺ｮ縺ｨ縺励※Caffe2 ⁴: https://github.com/caffe2/caffe2
... CoreML縺ｯ縲（OS11縺九ｉ譁ｰ縺励￥霑ｽ蜉�縺輔ｌ縺滓ｩ滓｢ｰ蟄ｦ鄙但PI鄒､縺ｧ縺ゅｋ ⁵: https://developer.apple.com/documentation/coreml

蟷ｳ謌�29蟷ｴ蠎ｦ 蜊呈･ｭ遐皮ｩｶ隲匁枚 繝｢繝舌う繝ｫGPU豢ｻ逕ｨ縺ｮ縺溘ａ縺ｮ豺ｱ螻､蟄ｦ鄙� 繝｢繝�Ν繧ｳ繝ｳ繝舌�繧ｿ縺ｮ螳溽樟

Abstract:

No References!

Footnotes

蟷ｳ謌�29蟷ｴ蠎ｦ蜊呈･ｭ遐皮ｩｶ隲匁枚

繝｢繝舌う繝ｫGPU豢ｻ逕ｨ縺ｮ縺溘ａ縺ｮ豺ｱ螻､蟄ｦ鄙�
繝｢繝�Ν繧ｳ繝ｳ繝舌�繧ｿ縺ｮ螳溽樟