目的
固定小数点の形式の入力値に対する学習モデルの出力値の精度を向上できる演算装置、及び演算方法を提供する。
効果
固定小数点の形式の入力値に対する学習モデルの出力値の精度を向上できる演算装置、及び演算方法を提供できる。
技術概要
ニューラルネットワーク形式の学習モデルのパラメータの小数点のシフト量を特定する情報を取得する取得部と、
前記取得部が取得したパラメータの小数点のシフト量を特定する情報に基づいて、入力値に対する前記学習モデルの出力値を求め、求めた前記出力値と出力値の小数点のシフト量とに基づいて、求めた前記出力値の小数点をシフトさせる演算部と
を備え、
前記入力値は、固定小数点の形式である、演算装置。