ホーム › AI.MachineLearning.DirectML › DML_GEMM_OPERATOR_DESC
DML_GEMM_OPERATOR_DESC
構造体サイズ=各フィールドのバイト数(x64/x86 で異なる場合は x64/x86 と併記)。x64/x86 列=フィールドのバイトオフセット(HSPで dupptr / lpoke / wpoke 等に使用)。
フィールド
| フィールド | 型 | サイズ | x64 | x86 | 説明 |
|---|---|---|---|---|---|
| ATensor | DML_TENSOR_DESC* | 8/4 | +0 | +0 | 行列 A を格納するテンソルです。このテンソルの Sizes は、TransA が DML_MATRIX_TRANSFORM_NONE の場合は { BatchCount, ChannelCount, M, K }、TransA が DML_MATRIX_TRANSFORM_TRANSPOSE の場合は { BatchCount, ChannelCount, K, M } である必要があります。 |
| BTensor | DML_TENSOR_DESC* | 8/4 | +8 | +4 | 行列 B を格納するテンソルです。このテンソルの Sizes は、TransB が DML_MATRIX_TRANSFORM_NONE の場合は { BatchCount, ChannelCount, K, N }、TransB が DML_MATRIX_TRANSFORM_TRANSPOSE の場合は { BatchCount, ChannelCount, N, K } である必要があります。 |
| CTensor | DML_TENSOR_DESC* | 8/4 | +16 | +8 | 行列 C を格納するテンソル、または nullptr です。指定しない場合、値は既定で 0 になります。指定する場合、このテンソルの Sizes は { BatchCount, ChannelCount, M, N } である必要があります。 |
| OutputTensor | DML_TENSOR_DESC* | 8/4 | +24 | +12 | 結果を書き込む先のテンソルです。このテンソルの Sizes は { BatchCount, ChannelCount, M, N } です。 |
| TransA | DML_MATRIX_TRANSFORM | 4 | +32 | +16 | ATensor に適用する変換です。転置、または変換なしのいずれかを指定します。 |
| TransB | DML_MATRIX_TRANSFORM | 4 | +36 | +20 | BTensor に適用する変換です。転置、または変換なしのいずれかを指定します。 |
| Alpha | FLOAT | 4 | +40 | +24 | 入力 ATensor と BTensor の積に対するスカラー乗数の値です。 |
| Beta | FLOAT | 4 | +44 | +28 | 省略可能な入力 CTensor に対するスカラー乗数の値です。CTensor を指定しない場合、この値は無視されます。 |
| FusedActivation | DML_OPERATOR_DESC* | 8/4 | +48 | +32 | GEMM の後に適用する、省略可能な融合アクティベーション層です。詳細については、「Using fused operators for improved performance」を参照してください。 |
公式ドキュメント
Output = FusedActivation(Alpha * TransA(A) x TransB(B) + Beta * C) という形式の一般行列乗算を実行します。ここで x は行列乗算を、* はスカラーとの乗算を表します。
この演算子は { BatchCount, ChannelCount, Height, Width } のレイアウトを持つ 4D テンソルを必要とし、BatchCount * ChannelCount 個の独立した行列乗算を実行します。
たとえば、ATensor の Sizes が { BatchCount, ChannelCount, M, K }、BTensor の Sizes が { BatchCount, ChannelCount, K, N }、OutputTensor の Sizes が { BatchCount, ChannelCount, M, N } である場合、この演算子は {M,K} x {K,N} = {M,N} という次元の独立した行列乗算を BatchCount * ChannelCount 回実行します。
出典・ライセンス: 上記「公式ドキュメント」の内容は Microsoft の Win32 API ドキュメント(MicrosoftDocs/sdk-api)を日本語に翻訳・改変したものです。© Microsoft Corporation. CC BY 4.0 で提供。
Microsoft 公式リファレンス: 英語 (en-us) · 日本語 (ja-jp) · 原文ソース (GitHub)
Microsoft 公式リファレンス: 英語 (en-us) · 日本語 (ja-jp) · 原文ソース (GitHub)
各言語での定義
#include <windows.h>
// DML_GEMM_OPERATOR_DESC (x64 56 / x86 36 バイト)
typedef struct DML_GEMM_OPERATOR_DESC {
DML_TENSOR_DESC* ATensor;
DML_TENSOR_DESC* BTensor;
DML_TENSOR_DESC* CTensor;
DML_TENSOR_DESC* OutputTensor;
DML_MATRIX_TRANSFORM TransA;
DML_MATRIX_TRANSFORM TransB;
FLOAT Alpha;
FLOAT Beta;
DML_OPERATOR_DESC* FusedActivation;
} DML_GEMM_OPERATOR_DESC;using System;
using System.Runtime.InteropServices;
[StructLayout(LayoutKind.Sequential, CharSet = CharSet.Unicode)]
public struct DML_GEMM_OPERATOR_DESC
{
public IntPtr ATensor;
public IntPtr BTensor;
public IntPtr CTensor;
public IntPtr OutputTensor;
public int TransA;
public int TransB;
public float Alpha;
public float Beta;
public IntPtr FusedActivation;
}Imports System.Runtime.InteropServices
<StructLayout(LayoutKind.Sequential, CharSet:=CharSet.Unicode)>
Public Structure DML_GEMM_OPERATOR_DESC
Public ATensor As IntPtr
Public BTensor As IntPtr
Public CTensor As IntPtr
Public OutputTensor As IntPtr
Public TransA As Integer
Public TransB As Integer
Public Alpha As Single
Public Beta As Single
Public FusedActivation As IntPtr
End Structureimport ctypes
from ctypes import wintypes
class DML_GEMM_OPERATOR_DESC(ctypes.Structure):
_fields_ = [
("ATensor", ctypes.c_void_p),
("BTensor", ctypes.c_void_p),
("CTensor", ctypes.c_void_p),
("OutputTensor", ctypes.c_void_p),
("TransA", ctypes.c_int),
("TransB", ctypes.c_int),
("Alpha", ctypes.c_float),
("Beta", ctypes.c_float),
("FusedActivation", ctypes.c_void_p),
]#[repr(C)]
pub struct DML_GEMM_OPERATOR_DESC {
pub ATensor: *mut core::ffi::c_void,
pub BTensor: *mut core::ffi::c_void,
pub CTensor: *mut core::ffi::c_void,
pub OutputTensor: *mut core::ffi::c_void,
pub TransA: i32,
pub TransB: i32,
pub Alpha: f32,
pub Beta: f32,
pub FusedActivation: *mut core::ffi::c_void,
}import "golang.org/x/sys/windows"
type DML_GEMM_OPERATOR_DESC struct {
ATensor uintptr
BTensor uintptr
CTensor uintptr
OutputTensor uintptr
TransA int32
TransB int32
Alpha float32
Beta float32
FusedActivation uintptr
}type
DML_GEMM_OPERATOR_DESC = record
ATensor: Pointer;
BTensor: Pointer;
CTensor: Pointer;
OutputTensor: Pointer;
TransA: Integer;
TransB: Integer;
Alpha: Single;
Beta: Single;
FusedActivation: Pointer;
end;const DML_GEMM_OPERATOR_DESC = extern struct {
ATensor: ?*anyopaque,
BTensor: ?*anyopaque,
CTensor: ?*anyopaque,
OutputTensor: ?*anyopaque,
TransA: i32,
TransB: i32,
Alpha: f32,
Beta: f32,
FusedActivation: ?*anyopaque,
};type
DML_GEMM_OPERATOR_DESC {.bycopy.} = object
ATensor: pointer
BTensor: pointer
CTensor: pointer
OutputTensor: pointer
TransA: int32
TransB: int32
Alpha: float32
Beta: float32
FusedActivation: pointerstruct DML_GEMM_OPERATOR_DESC
{
void* ATensor;
void* BTensor;
void* CTensor;
void* OutputTensor;
int TransA;
int TransB;
float Alpha;
float Beta;
void* FusedActivation;
}HSP用 定義
HSP3.7/3.8 は構造体機能が無いため4byte整数配列(dim)+peek/poke で操作(32/64bitでサイズ・位置が異なる場合はタブで分割)。IronHSP は NSTRUCT(#defstruct/stdim/->)で32/64bit共通。
; HSP3.7/3.8 は構造体機能が無いため、4byte整数の配列変数で操作します。(x86 レイアウト)
; DML_GEMM_OPERATOR_DESC サイズ: 36 バイト(x86)
dim st, 9 ; 4byte整数×9(構造体サイズ 36 / 4 切り上げ)
; ATensor : DML_TENSOR_DESC* (+0, 4byte) varptr(st)+0 を基点に操作(4byte:入れ子/配列)
; BTensor : DML_TENSOR_DESC* (+4, 4byte) varptr(st)+4 を基点に操作(4byte:入れ子/配列)
; CTensor : DML_TENSOR_DESC* (+8, 4byte) varptr(st)+8 を基点に操作(4byte:入れ子/配列)
; OutputTensor : DML_TENSOR_DESC* (+12, 4byte) varptr(st)+12 を基点に操作(4byte:入れ子/配列)
; TransA : DML_MATRIX_TRANSFORM (+16, 4byte) st.4 = 値 / 値 = st.4 (lpoke/lpeek も可)
; TransB : DML_MATRIX_TRANSFORM (+20, 4byte) st.5 = 値 / 値 = st.5 (lpoke/lpeek も可)
; Alpha : FLOAT (+24, 4byte) st.6 = 値 / 値 = st.6 (lpoke/lpeek も可)
; Beta : FLOAT (+28, 4byte) st.7 = 値 / 値 = st.7 (lpoke/lpeek も可)
; FusedActivation : DML_OPERATOR_DESC* (+32, 4byte) varptr(st)+32 を基点に操作(4byte:入れ子/配列)
; ※4byte境界の整数は添字 st.N(N=オフセット/4)で読み書き可。それ以外は peek/poke 系を使用。; HSP3.7/3.8 は構造体機能が無いため、4byte整数の配列変数で操作します。(x64 レイアウト)
; DML_GEMM_OPERATOR_DESC サイズ: 56 バイト(x64)
dim st, 14 ; 4byte整数×14(構造体サイズ 56 / 4 切り上げ)
; ATensor : DML_TENSOR_DESC* (+0, 8byte) varptr(st)+0 を基点に操作(8byte:入れ子/配列)
; BTensor : DML_TENSOR_DESC* (+8, 8byte) varptr(st)+8 を基点に操作(8byte:入れ子/配列)
; CTensor : DML_TENSOR_DESC* (+16, 8byte) varptr(st)+16 を基点に操作(8byte:入れ子/配列)
; OutputTensor : DML_TENSOR_DESC* (+24, 8byte) varptr(st)+24 を基点に操作(8byte:入れ子/配列)
; TransA : DML_MATRIX_TRANSFORM (+32, 4byte) st.8 = 値 / 値 = st.8 (lpoke/lpeek も可)
; TransB : DML_MATRIX_TRANSFORM (+36, 4byte) st.9 = 値 / 値 = st.9 (lpoke/lpeek も可)
; Alpha : FLOAT (+40, 4byte) st.10 = 値 / 値 = st.10 (lpoke/lpeek も可)
; Beta : FLOAT (+44, 4byte) st.11 = 値 / 値 = st.11 (lpoke/lpeek も可)
; FusedActivation : DML_OPERATOR_DESC* (+48, 8byte) varptr(st)+48 を基点に操作(8byte:入れ子/配列)
; ※4byte境界の整数は添字 st.N(N=オフセット/4)で読み書き可。それ以外は peek/poke 系を使用。; IronHSP は NSTRUCT(構造体)をサポート。32bit/64bit どちらでも同じコードで動作します。
#defstruct global DML_GEMM_OPERATOR_DESC
#field intptr ATensor
#field intptr BTensor
#field intptr CTensor
#field intptr OutputTensor
#field int TransA
#field int TransB
#field float Alpha
#field float Beta
#field intptr FusedActivation
#endstruct
stdim st, DML_GEMM_OPERATOR_DESC ; NSTRUCT 変数を確保
st->TransA = 100
mes "TransA=" + st->TransA