• Tutorials >
  • numpy 와 scipy 를 이용한 확장(Extensions) 만들기
Shortcuts

numpy 와 scipy 를 이용한 확장(Extensions) 만들기

Author: Adam Paszke

Updated by: Adam Dziedzic

번역: Ajin Jeong

이번 튜토리얼에서는 두 가지 작업을 수행할 것입니다:

  1. 매개 변수가 없는 신경망 계층(layer) 만들기
    • 이는 구현의 일부로 numpy 를 호출합니다.

  2. 학습 가능한 가중치가 있는 신경망 계층(layer) 만들기
    • 이는 구현의 일부로 Scipy 를 호출합니다.

import torch
from torch.autograd import Function

매개 변수가 없는(Parameter-less) 예시

이 계층(layer)은 특별히 유용하거나 수학적으로 올바른 작업을 수행하지 않습니다.

이름은 대충 BadFFTFunction으로 지었습니다.

계층(layer) 구현

from numpy.fft import rfft2, irfft2


class BadFFTFunction(Function):
    @staticmethod
    def forward(ctx, input):
        numpy_input = input.detach().numpy()
        result = abs(rfft2(numpy_input))
        return input.new(result)

    @staticmethod
    def backward(ctx, grad_output):
        numpy_go = grad_output.numpy()
        result = irfft2(numpy_go)
        return grad_output.new(result)

# 이 계층에는 매개 변수가 없으므로 nn.Module 클래스가 아닌 함수로 간단히 선언할 수 있습니다.


def incorrect_fft(input):
    return BadFFTFunction.apply(input)

생성된 계층(layer)의 사용 예시:

input = torch.randn(8, 8, requires_grad=True)
result = incorrect_fft(input)
print(result)
result.backward(torch.randn(result.size()))
print(input)

Out:

tensor([[ 0.1427,  5.5778, 11.1232, 17.8041, 12.2626],
        [ 9.5936,  4.0079,  4.6988,  6.7813,  3.6823],
        [ 6.5884, 14.3957, 10.7560,  8.2738, 19.2556],
        [ 7.7234,  5.7786,  8.3944,  5.8846, 15.3141],
        [ 2.0789,  5.2201,  4.7461,  2.9303,  3.4912],
        [ 7.7234,  5.6180,  3.1562,  3.6815, 15.3141],
        [ 6.5884,  6.1014,  7.9042,  6.9556, 19.2556],
        [ 9.5936,  5.5033, 10.4785,  1.1310,  3.6823]],
       grad_fn=<BadFFTFunctionBackward>)
tensor([[-1.4709e+00, -6.3109e-01,  1.3298e+00,  2.3514e+00,  5.9798e-01,
         -1.1601e+00,  2.5796e+00, -9.1742e-01],
        [-5.1303e-01, -1.2454e-01,  9.4299e-01,  4.1181e-02, -1.0822e+00,
         -6.6457e-01,  1.6514e+00, -4.5767e-01],
        [ 1.1881e+00, -8.2682e-01, -6.6985e-01, -1.4528e+00,  5.1185e-01,
         -8.0868e-01,  1.7740e-03,  1.1327e+00],
        [-1.1642e+00,  3.2232e-02, -1.8744e+00,  8.7643e-01, -2.9207e-01,
         -6.5755e-01,  5.5591e-01, -5.4848e-01],
        [-9.3801e-01,  1.2927e+00, -8.1564e-01,  1.2620e+00, -6.6684e-02,
         -5.5979e-02,  4.3299e-01, -1.2738e+00],
        [ 1.3811e+00, -4.1654e-01,  1.2796e+00, -1.1521e+00,  2.3741e-01,
         -2.0551e+00,  2.4323e+00, -2.3034e+00],
        [-6.3560e-01, -1.0755e+00, -1.0727e+00,  1.5191e-02, -6.5398e-02,
          7.0480e-02,  8.0156e-01, -5.9931e-01],
        [ 1.1470e-01,  9.0640e-01,  2.5264e-01,  1.6878e+00,  1.3140e-01,
          1.0867e+00,  4.4034e-01,  3.6620e-01]], requires_grad=True)

매개 변수가 있는(Parameterized) 예시

딥러닝 문헌에서 이 계층(layer)의 실제 연산은 상호 상관(cross-correlation)이지만 합성곱(convolution)이라고 헷갈리게 부르고 있습니다. (합성곱은 필터를 뒤집어서 연산을 하는 반면, 상호 상관은 그렇지 않은 차이가 있습니다)

학습 가능한 가중치를 가는 필터(커널)를 갖는 상호 상관 계층을 구현해보겠습니다.

역전파 단계(backward pass)에서는 입력에 대한 기울기(gradient)와 필터에 대한 기울기를 계산합니다.

from numpy import flip
import numpy as np
from scipy.signal import convolve2d, correlate2d
from torch.nn.modules.module import Module
from torch.nn.parameter import Parameter


class ScipyConv2dFunction(Function):
    @staticmethod
    def forward(ctx, input, filter, bias):
        # 분리(detach)하여 NumPy로 변환(cast)할 수 있습니다.
        input, filter, bias = input.detach(), filter.detach(), bias.detach()
        result = correlate2d(input.numpy(), filter.numpy(), mode='valid')
        result += bias.numpy()
        ctx.save_for_backward(input, filter, bias)
        return torch.as_tensor(result, dtype=input.dtype)

    @staticmethod
    def backward(ctx, grad_output):
        grad_output = grad_output.detach()
        input, filter, bias = ctx.saved_tensors
        grad_output = grad_output.numpy()
        grad_bias = np.sum(grad_output, keepdims=True)
        grad_input = convolve2d(grad_output, filter.numpy(), mode='full')
        # 윗줄은 다음과 같이 표현할 수도 있습니다:
        # grad_input = correlate2d(grad_output, flip(flip(filter.numpy(), axis=0), axis=1), mode='full')
        grad_filter = correlate2d(input.numpy(), grad_output, mode='valid')
        return torch.from_numpy(grad_input), torch.from_numpy(grad_filter).to(torch.float), torch.from_numpy(grad_bias).to(torch.float)


class ScipyConv2d(Module):
    def __init__(self, filter_width, filter_height):
        super(ScipyConv2d, self).__init__()
        self.filter = Parameter(torch.randn(filter_width, filter_height))
        self.bias = Parameter(torch.randn(1, 1))

    def forward(self, input):
        return ScipyConv2dFunction.apply(input, self.filter, self.bias)

사용 예시:

module = ScipyConv2d(3, 3)
print("Filter and bias: ", list(module.parameters()))
input = torch.randn(10, 10, requires_grad=True)
output = module(input)
print("Output from the convolution: ", output)
output.backward(torch.randn(8, 8))
print("Gradient for the input map: ", input.grad)

Out:

Filter and bias:  [Parameter containing:
tensor([[-0.1602, -1.3375,  0.4899],
        [ 0.0117, -1.8393, -1.1161],
        [-0.7189, -0.9802,  0.4517]], requires_grad=True), Parameter containing:
tensor([[-0.0199]], requires_grad=True)]
Output from the convolution:  tensor([[-6.0479e-01, -6.6172e-01,  5.7668e-01,  7.3642e-01, -1.0404e+00,
         -2.5380e+00,  7.0431e-01, -3.0432e+00],
        [ 4.0189e+00, -2.9888e-01,  1.5170e-01,  6.8403e-01,  6.4340e-01,
         -4.1355e-02,  2.0061e+00, -5.5426e+00],
        [-9.2383e-01,  4.2150e+00, -7.7942e-01, -1.9131e+00, -1.5988e+00,
         -3.0727e+00, -9.9906e-01, -6.2175e-01],
        [ 2.4869e+00, -2.0382e+00, -1.2072e+00, -2.4638e+00,  3.3878e+00,
         -2.5876e+00, -1.6984e+00,  1.0379e+00],
        [ 3.3521e+00,  3.0190e+00, -1.6648e+00, -4.4991e-01,  6.2380e+00,
         -5.3818e+00, -5.1706e-03,  1.8641e+00],
        [ 8.3524e-01,  2.5572e+00,  3.0948e-01,  2.6738e+00,  3.0596e+00,
         -4.1210e+00, -1.7525e+00,  9.5410e-01],
        [-2.9451e+00, -1.7272e+00, -3.1038e+00,  1.2254e+00,  1.3403e+00,
         -5.1629e-01, -2.3515e-01,  2.7382e+00],
        [-9.9022e-01,  1.1924e+00,  9.4509e-01,  1.5043e-01, -4.1593e+00,
          1.5421e+00,  2.0839e+00,  2.3023e+00]],
       grad_fn=<ScipyConv2dFunctionBackward>)
Gradient for the input map:  tensor([[-6.6709e-03, -1.2434e-01, -4.5475e-01,  1.2874e+00,  2.0362e+00,
          7.2406e-01,  5.3141e-01,  7.4434e-01, -9.8842e-01,  2.0831e-01],
        [-8.3832e-03, -5.7282e-03,  4.0055e-01,  5.7226e-01,  3.2199e+00,
          3.4890e+00,  6.4686e+00, -1.9396e+00,  8.0274e-01, -3.3750e-01],
        [-6.3797e-02, -6.4219e-01,  2.7781e+00,  4.9925e+00,  2.8659e+00,
         -8.8033e-01,  6.4537e+00,  2.1578e+00, -3.0852e+00, -6.1653e-01],
        [ 1.1052e-01,  1.5087e+00,  2.4574e+00,  2.5282e+00,  5.0612e+00,
          1.8256e+00,  2.7466e+00, -2.0636e+00,  4.6944e+00,  1.3905e+00],
        [-2.0347e-01,  1.6992e+00,  4.6616e+00,  3.5024e+00,  5.6251e+00,
          6.4188e-01,  7.2062e-01, -1.7522e+00, -1.1723e-01, -1.0297e+00],
        [ 8.2716e-01,  2.2493e+00, -3.7179e-01,  2.7535e+00,  6.2322e+00,
          8.2966e-01, -6.1872e-01, -7.0798e+00, -2.1370e+00,  1.3610e+00],
        [-3.1513e-01,  6.0357e-01,  7.8525e-01,  2.5810e-01,  3.7759e+00,
         -3.0246e+00, -2.6638e+00, -1.8082e+00, -2.2248e+00, -1.3668e+00],
        [ 8.4025e-01, -4.3326e-02, -6.0940e+00, -3.8165e+00, -1.0286e+00,
          2.7988e+00, -6.3584e-01, -3.4374e+00, -2.6719e+00, -9.0657e-02],
        [-6.0745e-01, -2.9021e-01, -3.7362e+00, -1.6683e+00, -2.5320e-01,
         -3.3608e+00, -3.0979e+00, -2.0743e+00, -8.8610e-01,  2.0207e-01],
        [ 4.8142e-01, -4.5982e-01, -1.9266e+00, -5.4646e-01, -1.8311e+00,
         -3.4494e-01, -6.9319e-01, -4.1617e-02,  7.0677e-02,  3.3832e-02]])

기울기(gradient) 확인:

from torch.autograd.gradcheck import gradcheck

moduleConv = ScipyConv2d(3, 3)

input = [torch.randn(20, 20, dtype=torch.double, requires_grad=True)]
test = gradcheck(moduleConv, input, eps=1e-6, atol=1e-4)
print("Are the gradients correct: ", test)

Out:

Are the gradients correct:  True

Total running time of the script: ( 0 minutes 0.489 seconds)

Gallery generated by Sphinx-Gallery


이 튜토리얼이 어떠셨나요?

© Copyright 2022, PyTorch & 파이토치 한국 사용자 모임(PyTorch Korea User Group).

Built with Sphinx using a theme provided by Read the Docs.

PyTorchKorea @ GitHub

파이토치 한국 사용자 모임을 GitHub에서 만나보세요.

GitHub로 이동

한국어 튜토리얼

한국어로 번역 중인 PyTorch 튜토리얼입니다.

튜토리얼로 이동

커뮤니티

다른 사용자들과 의견을 나누고, 도와주세요!

커뮤니티로 이동