C++實(shí)現(xiàn)softmax函數(shù)的面試經(jīng)驗(yàn)

更新時(shí)間：2022年05月18日 12:57:17 作者：concyclics

這篇文章主要為大家介紹了C++實(shí)現(xiàn)softmax函數(shù)的面試經(jīng)驗(yàn),有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進(jìn)步，早日升職加薪

背景

今天面試字節(jié)算法崗時(shí)被問(wèn)到的問(wèn)題，讓我用C++實(shí)現(xiàn)一個(gè)softmax函數(shù)。softmax是邏輯回歸在多分類問(wèn)題上的推廣。大概的公式如下：

即判斷該變量在總體變量中的占比。

第一次實(shí)現(xiàn)

實(shí)現(xiàn)

我們用vector來(lái)封裝輸入和輸出，簡(jiǎn)單的按公式復(fù)現(xiàn)。

vector<double> softmax(vector<double> input)
{
	double total=0;
	for(auto x:input)
	{
		total+=exp(x);
	}
	vector<double> result;
	for(auto x:input)
	{
		result.push_back(exp(x)/total);
	}
	return result;
}

測(cè)試

test 1

測(cè)試用例1: {1, 2, 3, 4, 5}
測(cè)試輸出1: {0.0116562, 0.0316849, 0.0861285, 0.234122, 0.636409}

經(jīng)過(guò)簡(jiǎn)單測(cè)試是正常的。

test 2

但是這時(shí)面試官提出了一個(gè)問(wèn)題，即如果有較大輸入變量時(shí)會(huì)怎么樣？

測(cè)試用例2: {1, 2, 3, 4, 5, 1000}
測(cè)試輸出2: {0, 0, 0, 0, 0, nan}

由于 e^1000已經(jīng)溢出了雙精度浮點(diǎn)(double)所能表示的范圍，所以變成了NaN(not a number)。

第二次實(shí)現(xiàn)(改進(jìn))

改進(jìn)原理

我們注意觀察softmax的公式:

如果我們給上下同時(shí)乘以一個(gè)很小的數(shù)，最后答案的值是不變的。

那我們可以給每一個(gè)輸入 x i 都減去一個(gè)值 a ，防止爆精度。

大致表示如下:

實(shí)現(xiàn)

vector<double> softmax(vector<double> input)
{
	double total=0;
	double MAX=input[0];
	for(auto x:input)
	{
		MAX=max(x,MAX);
	}
	for(auto x:input)
	{
		total+=exp(x-MAX);
	}
	vector<double> result;
	for(auto x:input)
	{
		result.push_back(exp(x-MAX)/total);
	}
	return result;
}

測(cè)試

test 1

測(cè)試用例1: {1, 2, 3, 4, 5, 1000}
測(cè)試輸出1: {0, 0, 0, 0, 0, 1}

test 2

測(cè)試用例1: {0, 19260817, 19260817}
測(cè)試輸出1: {0, 0.5, 0.5}

我們發(fā)現(xiàn)結(jié)果正常了。

完整代碼

#include <iostream>
#include <vector>
#include <math.h>
using namespace std;
vector<double> softmax(vector<double> input)
{
	double total=0;
	double MAX=input[0];
	for(auto x:input)
	{
		MAX=max(x,MAX);
	}
	for(auto x:input)
	{
		total+=exp(x-MAX);
	}
	vector<double> result;
	for(auto x:input)
	{
		result.push_back(exp(x-MAX)/total);
	}
	return result;
}
int main(int argc, char *argv[])
{
	int n;
	cin>>n;
	vector<double> input;
	while(n--)
	{
		double x;
		cin>>x;
		input.push_back(x);
	}
	for(auto y:softmax(input))
	{
		cout<<y<<' ';
	}
}

以上就是C++實(shí)現(xiàn)softmax函數(shù)的面試經(jīng)驗(yàn)的詳細(xì)內(nèi)容，更多關(guān)于C++ softmax函數(shù)的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章！

您可能感興趣的文章: