다음을 통해 공유

rxNeuralNet: Neural Net

  • 아티클

회귀 모델링과 이진 및 다중 클래스 분류에 대한 신경망입니다.

사용

  rxNeuralNet(formula = NULL, data, type = c("binary", "multiClass",
    "regression"), numHiddenNodes = 100, numIterations = 100,
    optimizer = sgd(), netDefinition = NULL, initWtsDiameter = 0.1,
    maxNorm = 0, acceleration = c("sse", "gpu"), miniBatchSize = 1,
    normalize = "auto", mlTransforms = NULL, mlTransformVars = NULL,
    rowSelection = NULL, transforms = NULL, transformObjects = NULL,
    transformFunc = NULL, transformVars = NULL, transformPackages = NULL,
    transformEnvir = NULL, blocksPerRead = rxGetOption("blocksPerRead"),
    reportProgress = rxGetOption("reportProgress"), verbose = 1,
    computeContext = rxGetOption("computeContext"),
    ensemble = ensembleControl(), ...)

인수

formula

rxFormula에서 설명된 수식입니다. 상호 작용 용어와 F()는 현재 MicrosoftML에서 지원되지 않습니다.

data

.xdf 파일 또는 데이터 프레임 개체를 지정하는 데이터 원본 개체 또는 문자열입니다.

type

Fast Tree 형식을 나타내는 문자열입니다.

  • 기본 이진 분류 신경망의 경우 "binary"입니다.
  • 다중 클래스 분류 신경망의 경우 "multiClass"입니다.
  • 회귀 신경망의 경우 "regression"입니다.

numHiddenNodes

신경망에서 숨겨진 노드의 기본 개수입니다. 기본값은 100입니다.

numIterations

전체 학습 세트의 반복 횟수입니다. 기본값은 100입니다.

optimizer

sgd 또는 adaptive 최적화 알고리즘을 지정하는 목록입니다. 이 목록은 sgd 또는 adaDeltaSgd를 사용하여 만들 수 있습니다. 기본값은 sgd입니다.

netDefinition

신경망 구조의 Net# 정의입니다. Net# 언어에 관한 자세한 내용은 Reference Guide를 참조하세요.

initWtsDiameter

초기 학습 가중치에 대해 값을 가져오는 범위를 지정하는 초기 가중치 지름을 설정합니다. 가중치는 이 범위 내에서 임의로 초기화됩니다. 기본값은 0.1입니다.

maxNorm

각 숨겨진 단위에서 들어오는 가중치 벡터의 표준을 제한하는 상한을 지정합니다. 학습으로 제한 없는 가중치가 생성되는 경우와 최대 규모의 신경망에서 매우 중요할 수 있습니다.

acceleration

사용할 하드웨어 가속 유형을 지정합니다. 가능한 값은 “sse”, “gpu”입니다. GPU 가속의 경우 1보다 큰 miniBatchSize를 사용하는 것이 좋습니다. GPU 가속을 사용하려면 추가 수동 설정 단계가 필요합니다.

  • NVidia CUDA Toolkit 6.5(CUDA Toolkit)를 다운로드하여 설치합니다.
  • NVidia cuDNN v2 라이브러리(cudnn Library)를 다운로드하여 설치합니다.
  • system.file("mxLibs/x64", package = "MicrosoftML")을 호출하여 MicrosoftRML 패키지의 libs 디렉터리를 찾습니다.
  • cublas64_65.dll, cudart64_65.dll, cusparse64_65.dll을 CUDA Toolkit 6.5에서 MicrosoftML 패키지의 libs 디렉터리에 복사합니다.
  • cudnn64_65.dll을 cuDNN v2 라이브러리에서 MicrosoftML 패키지의 libs 디렉터리에 복사합니다.

miniBatchSize

미니 일괄 처리 크기를 설정합니다. 권장되는 값은 1에서 256 사이입니다. 이 매개 변수는 가속이 GPU인 경우에만 사용됩니다. 이 매개 변수를 더 큰 값으로 설정하면 학습 속도가 향상되지만 정확도에는 부정적인 영향을 줄 수 있습니다. 기본값은 1입니다.

normalize

사용되는 자동 정규화 유형을 지정합니다.

  • "auto": 정규화가 필요한 경우 자동으로 수행됩니다. 기본 옵션입니다.
  • "no": 정규화가 수행되지 않습니다.
  • "yes": 정규화가 수행됩니다.
  • "warn": 정규화가 필요한 경우 경고 메시지가 표시되지만 정규화는 수행되지 않습니다.
    정규화는 서로 다른 데이터 범위를 표준 배율로 다시 스케일링합니다. 기능 스케일링은 데이터 요소 간 거리가 비례하도록 보장하며, 경사 하강법과 같은 다양한 최적화 방법이 훨씬 더 빠르게 수렴되도록 합니다. 정규화가 수행되면 MaxMin 노멀라이저가 사용됩니다. 간격 [a, b]의 값을 정규화합니다. 이때 -1 <= a <= 0, 0 <= b <= 1, b - a = 1입니다. 이 노멀라이저는 0에서 0으로 매핑하여 희박도를 유지합니다.

mlTransforms

학습 전에 데이터에서 수행할 MicrosoftML 변환 목록을 지정하거나 수행할 변환이 없는 경우 NULL을 지정합니다. 지원되는 변환에 관해서는 featurizeText, categorical, categoricalHash를 참조하세요. 이러한 변환은 지정된 R 변환 후에 수행됩니다. 기본값은 NULL입니다.

mlTransformVars

mlTransforms에 사용할 변수 이름의 문자 벡터를 지정하거나 사용할 변수가 없는 경우 NULL을 지정합니다. 기본값은 NULL입니다.

rowSelection

데이터 세트의 논리 변수 이름(따옴표) 또는 데이터 세트의 변수를 사용하는 논리 식으로 모델에서 사용할 데이터 세트의 행(관찰)을 지정합니다. 예를 들어, rowSelection = "old"는 old 변수의 값이 TRUE인 관찰만 사용합니다. rowSelection = (age > 20) & (age < 65) & (log(income) > 10)은 age 변수의 값이 20에서 65 사이이고 income 변수의 log 값이 10보다 큰 관찰만 사용합니다. 행 선택은 데이터 변환을 처리한 후 수행됩니다(인수 transforms 또는 transformFunc 참조). 모든 식과 마찬가지로 expression 함수를 사용하여 함수 호출 외부에서 rowSelection을 정의할 수 있습니다.

transforms

변수 변환의 첫 번째 반올림을 나타내는 list(name = expression, ``...) 양식의 식입니다. 모든 식과 마찬가지로 expression 함수를 사용하여 함수 호출 외부에서 transforms(또는 rowSelection)를 정의할 수 있습니다.

transformObjects

transforms, transformsFunc, rowSelection에서 참조할 수 있는 개체를 포함하는 명명된 목록입니다.

transformFunc

변수 변환 함수입니다. 자세한 내용은 rxTransform을 참조하세요.

transformVars

변환 함수에 필요한 입력 데이터 세트 변수의 문자 벡터입니다. 자세한 내용은 rxTransform을 참조하세요.

transformPackages

사용 가능하게 하고 변수 변환 함수에서 사용하도록 미리 로드할 추가 R 패키지(rxGetOption("transformPackages")에 지정된 패키지 외부)를 지정하는 문자 벡터입니다. 예를 들어, transforms 및 transformFunc 인수를 통해 RevoScaleR 함수에 명시적으로 정의되거나 formula 또는 rowSelection 인수를 통해 암시적으로 정의됩니다. transformPackages 인수는 NULL일 수도 있으며, 이는 rxGetOption("transformPackages") 외부의 패키지가 미리 로드되지 않음을 나타냅니다.

transformEnvir

내부적으로 개발되어 변수 데이터 변환에 사용되는 모든 환경의 부모 역할을 하는 사용자 정의 환경입니다. transformEnvir = NULL인 경우 부모 baseenv()가 있는 새 “해시” 환경이 대신 사용됩니다.

blocksPerRead

데이터 원본에서 읽은 데이터의 각 청크에 대해 읽을 블록 수를 지정합니다.

reportProgress

행 처리 진행률에 대한 보고 수준을 지정하는 정수 값입니다.

  • 0: 진행률을 보고하지 않습니다.
  • 1: 처리된 행 수가 출력되고 업데이트됩니다.
  • 2: 처리된 행 및 타이밍이 보고됩니다.
  • 3: 처리된 행 및 모든 타이밍이 보고됩니다.

verbose

원하는 출력의 양을 지정하는 정수 값입니다. 0이면 계산 중에 자세한 정보가 출력되지 않습니다. 1에서 4 사이의 정수 값은 더 많은 양의 정보를 제공합니다.

computeContext

유효한 RxComputeContext로 지정되었으며 계산이 실행되는 컨텍스트를 설정합니다. 현재 로컬 및 RxInSqlServer 컴퓨팅 컨텍스트가 지원됩니다.

ensemble

앙상블을 위한 제어 매개 변수입니다.

...

Microsoft 컴퓨팅 엔진에 직접 전달할 추가 인수입니다.

세부 정보

신경망은 인간의 두뇌에서 영감을 얻은 일종의 예측 모델입니다. 신경망은 가중치가 적용된 방향성 그래프로 나타낼 수 있습니다. 그래프의 각 노드를 뉴런이라고 합니다. 그래프의 뉴런은 계층으로 정렬되며, 한 계층의 뉴런은 가중치가 적용된 에지(가중치는 0 또는 양수일 수 있음)를 통해 다음 계층의 뉴런에 연결됩니다. 첫 번째 계층을 입력 계층이라고 하며, 입력 계층의 각 뉴런은 기능 중 하나에 해당합니다. 함수의 마지막 계층을 출력 계층이라고 합니다. 따라서 이진 신경망에는 각 클래스에 대해 하나씩 두 개의 출력 뉴런이 포함되며, 해당 값은 각 클래스에 속할 확률을 나타냅니다. 나머지 계층은 숨겨진 계층이라고 합니다. 숨겨진 계층 및 출력 계층에서 뉴런 값은 이전 계층에서 뉴런 값의 가중치 합을 계산하고 해당 가중치 합에 활성화 함수를 적용하여 설정합니다. 신경망 모델은 해당 그래프의 구조(즉, 숨겨진 계층의 수와 각 숨겨진 계층의 뉴런 수), 활성화 함수 선택, 그래프 에지의 가중치로 정의됩니다. 신경망 알고리즘은 학습 데이터를 기반으로 에지에 대한 최적의 가중치를 학습하려고 합니다.

신경망은 이미지 인식과 같은 복잡한 문제의 모델링과 딥 러닝에서 사용되는 기술로 널리 알려져 있으며 회귀 문제에도 쉽게 적용할 수 있습니다. 적응 가중치를 사용하고 입력의 비선형 함수 근사치를 계산할 수 있는 모든 클래스의 통계 모델을 신경망이라고 할 수 있습니다. 신경망 회귀는 기존의 회귀 모델로 해결할 수 없는 문제에 특히 적합합니다.

값

rxNeuralNet: 학습된 모델이 있는 rxNeuralNet 개체입니다.
NeuralNet: 신경망 트레이너에 대한 maml 클래스의 학습자 사양 개체입니다.

메모

이 알고리즘은 단일 스레드이며 전체 데이터 세트를 메모리에 로드하려고 시도하지 않습니다.

작성자

Microsoft Corporation Microsoft Technical Support

참조

Wikipedia: Artificial neural network

추가 정보

rxFastTrees, rxFastForest, rxFastLinear, rxLogisticRegression, rxOneClassSvm, featurizeText, categorical, categoricalHash, rxPredict.mlModel.

예


 # Estimate a binary neural net
 rxNeuralNet1 <- rxNeuralNet(isCase ~ age + parity + education + spontaneous + induced,
                   transforms = list(isCase = case == 1),
                   data = infert)

 # Score to a data frame
 scoreDF <- rxPredict(rxNeuralNet1, data = infert, 
     extraVarsToWrite = "isCase",
     outData = NULL) # return a data frame

 # Compute and plot the Radio Operator Curve and AUC
 roc1 <- rxRoc(actualVarName = "isCase", predVarNames = "Probability", data = scoreDF) 
 plot(roc1)
 rxAuc(roc1)

 #########################################################################
 # Regression neural net

 # Create an xdf file with the attitude data
 myXdf <- tempfile(pattern = "tempAttitude", fileext = ".xdf")
 rxDataStep(attitude, myXdf, rowsPerRead = 50, overwrite = TRUE)
 myXdfDS <- RxXdfData(file = myXdf)

 attitudeForm <- rating ~ complaints + privileges + learning + 
     raises + critical + advance

 # Estimate a regression neural net 
 res2 <- rxNeuralNet(formula = attitudeForm,  data = myXdfDS, 
     type = "regression")

 # Score to data frame
 scoreOut2 <- rxPredict(res2, data = myXdfDS, 
     extraVarsToWrite = "rating")

 # Plot the rating versus the score with a regression line
 rxLinePlot(rating~Score, type = c("p","r"), data = scoreOut2)

 # Clean up   
 file.remove(myXdf)    

 #############################################################################
 # Multi-class neural net
 multiNN <- rxNeuralNet(
     formula = Species~Sepal.Length + Sepal.Width + Petal.Length + Petal.Width,
     type = "multiClass", data = iris)
 scoreMultiDF <- rxPredict(multiNN, data = iris, 
     extraVarsToWrite = "Species", outData = NULL)    
 # Print the first rows of the data frame with scores
 head(scoreMultiDF)
 # Compute % of incorrect predictions
 badPrediction = scoreMultiDF$Species != scoreMultiDF$PredictedLabel
 sum(badPrediction)*100/nrow(scoreMultiDF)
 # Look at the observations with incorrect predictions
 scoreMultiDF[badPrediction,]