null - 程序员宅基地

Siamese Network & Triplet NetWork-程序员宅基地

Siamese Network（孪生网络）

简单来说，孪生网络就是共享参数的两个神经网络

在孪生网络中，我们把一张图片 $X_1$ 作为输入，得到该图片的编码 $G_W(X_1)$ 。然后，我们在不对网络参数进行任何更新的情况下，输入另一张图片 $X_2$ ，并得到改图片的编码 $G_W(X_2)$ 。由于相似的图片应该具有相似的特征（编码），利用这一点，我们就可以比较并判断两张图片的相似性

孪生网络的损失函数

传统的Siamese Network使用Contrastive Loss（对比损失函数）
$\mathcal{L} = (1-Y)\frac{1}{2}(D_W)^2+(Y)\frac{1}{2}\{max(0, m-D_W)\}^2$
其中 $D_W$ 被定义为孪生网络两个输入之间的欧氏距离，即
$D_W = \sqrt{\{G_W(X_1)-G_W(X_2)\}^2}$

$Y$ 值为0或1，如果 $X_1,X_2$ 这对样本属于同一类，则 $Y = 0$ ，反之 $Y = 1$
$m$ 是边际价值（margin value），即当 $Y = 1$ ，如果 $X_1$ 与 $X_2$ 之间距离大于 $m$ ，则不做优化（省时省力）；如果 $X_1$ 与 $X_2$ 之间的距离小于 $m$ ，则调整参数使其距离增大到 $m$

Contrastive Loss代码

import torch
import numpy as np
import torch.nn.functional as F

class ContrastiveLoss(torch.nn.Module):
    "Contrastive loss function"
    def __init__(self, m=2.0):
        super(ContrastiveLoss, self).__init__()
        self.m = m
            
    def forward(self, output1, output2, label):
        d_w = F.pairwise_distance(output1, output2)
        contrastive_loss = torch.mean((1-label) * 0.5 * torch.pow(d_w, 2) +
                                      (label) * 0.5 * torch.pow(torch.clamp(self.m - d_w, min=0.0), 2))

        return contrastive_loss

其中，F.pairwise_distance(x1, x2, p=2)函数公式如下
$(\sum_{i=1}^n(|x_1-x_2|^p))^{\frac{1}{p}}\\ x_1,x_2 \in \mathbb{R}^{b\times n}$

pairwise_distance(x1, x2, p) Computes the batchwise pairwise distance between vectors $x_1$ , $x_2$ using the p-norm

孪生网络的用途

简单来说，孪生网络的直接用途就是衡量两个输入的差异程度（或者说相似程度）。将两个输入分别送入两个神经网络，得到其在新空间的representation，然后通过Loss Function来计算它们的差异程度（或相似程度）

词汇语义相似度分析，QA中question和answer的匹配
手写体识别也可以用Siamese Network
Kaggle上Quora的Question Pair比赛，即判断两个提问是否为同一个问题

Pseudo-Siamese Network（伪孪生网络）

对于伪孪生网络来说，两边可以是不同的神经网络（如一个是lstm，一个是cnn），并且如果是相同的神经网络，是不共享参数的

孪生网络和伪孪生网络分别适用的场景

孪生网络适用于处理两个输入比较类似的情况
伪孪生网络适用于处理两个输入有一定差别的情况

例如，计算两个句子或者词汇的语义相似度，使用Siamese Network比较合适；验证标题与正文的描述是否一致（标题和正文长度差别很大），或者文字是否描述了一幅图片（一个是图片，一个是文字）就应该使用Pseudo-Siamese Network

Triplet Network（三胞胎网络）

如果说Siamese Network是双胞胎，那Triplet Network就是三胞胎。它的输入是三个：一个正例+两个负例，或一个负例+两个正例。训练的目标仍然是让相同类别间的距离尽可能小，不同类别间的距离尽可能大。Triplet Network在CIFAR，MNIST数据集上效果均超过了Siamese Network

损失函数定义如下：
$\mathcal{L}=max(d(a,p)-d(a,n)+margin, 0)$

$a$ 表示anchor图像
$p$ 表示positive图像
$n$ 表示negative图像

我们希望 $a$ 与 $p$ 的距离应该小于 $a$ 与 $n$ 的距离。 $m a r g i n$ 是个超参数，它表示 $d (a, p)$ 与 $d (a, n)$ 之间应该相差多少，例如，假设 $m a r g i n = 0.2$ ，并且 $d (a, p) = 0.5$ ，那么 $d (a, n)$ 应该大于等于 $0.7$

Reference

本文链接：https://blog.csdn.net/qq_37236745/article/details/109057383

原作者删帖不实内容删帖广告或垃圾文章投诉

智能推荐

文章浏览阅读4.2w次，点赞124次，收藏688次。stack翻译为栈，是STL中实现的一个后进先出的容器。要使用 stack，应先添加头文件include<stack>，并在头文件下面加上“ using namespacestd;"1. stack的定义其定义的写法和其他STL容器相同, typename可以任意基本数据类型或容器：stack<typename> name;2. stack容器内元素的访问..._stack函数用法

2018.11.16javascript课上随笔（DOM）-程序员宅基地

文章浏览阅读71次。<li> <a href = "“#”>-</a></li><li>子节点：文本节点（回车），元素节点，文本节点。不同节点树：　　节点（各种类型节点）childNodes:返回子节点的所有子节点的集合，包含任何类型、元素节点（元素类型节点）：child。node.getAttribute(at...

python encode和decode函数说明_python中文处理之encode/decode函数-程序员宅基地

文章浏览阅读394次。python中文处理相信迷惑过不少同学。下面说说python2/3的encode和decode函数。python2中，使用decode()和encode()来进行解码和编码，以unicode类型作为中间类型。即decode 　　 encodestr ---------> unicode --------->str示例(注意encode和decode的编码必须保持一致)..._python中decode函数属那个模块

Tomcat JMX监控配置指南_catalina.bat jmx 配置-程序员宅基地

文章浏览阅读413次。Tomcat是一种流行的Java Web服务器，它提供了许多功能和配置选项，其中包括JMX（Java Management Extensions）监控。本文提供了Tomcat JMX监控的详细配置步骤，并给出了一个简单的Java代码示例，演示如何连接到JMX服务器并获取监控数据。一旦Tomcat配置完成并重新启动，您可以使用Java代码连接到JMX服务器并获取监控数据。要启用Tomcat的JMX监控功能，需要编辑Tomcat的配置文件。运行上述代码，您将能够连接到Tomcat的JMX服务器并获取监控数据。_catalina.bat jmx 配置

蓝桥杯Python组国二经验+备考建议-程序员宅基地

文章浏览阅读1.9w次，点赞141次，收藏834次。楼主参加了2021年的蓝桥杯算法程序竞赛Python组。经过长达半年的训练+比赛时候的一点点运气，最终获得了蓝桥杯Python组省一国二的好成绩。只要好好准备，Python组的省一并没有那么难，我今年10道题中做了7道就拿到了省一等奖。本篇经验适合：1.希望参加Python组的同学2.想参加Java、C++ B组的同学（难度与Python组类似）3.想系统提升算法能力的同学4.ACM大佬可以直接退出了、点击就送总结：1.要总结并背诵基本的算法模板2.需要一定的训练量，但更追求的是写题质量和_蓝桥杯python组

随便推点

5G云计算：5G网络的分层思想_5g分层结构-程序员宅基地

文章浏览阅读3.2k次，点赞6次，收藏13次。分层思想分层思想分层思想-1分层思想-2分层思想-2OSI七层参考模型物理层和数据链路层物理层数据链路层网络层传输层会话层表示层应用层OSI七层模型的分层结构TCP/IP协议族的组成数据封装过程数据解封装过程PDU设备与层的对应关系各层通信分层思想分层思想-1在现实生活种，我们在喝牛奶时，未必了解他的生产过程，我们所接触的或许只是从超时购买牛奶。分层思想-2平时我们在网络时也未必知道数据的传输过程我们的所考虑的就是可以传就可以，不用管他时怎么传输的分层思想-2将复杂的流程分解为几个功能_5g分层结构

基于二值化图像转GCode的单向扫描实现-程序员宅基地

文章浏览阅读191次。在激光雕刻中，单向扫描（Unidirectional Scanning）是一种雕刻技术，其中激光头只在一个方向上移动，而不是来回移动。这种移动方式主要应用于通过激光逐行扫描图像表面的过程。具体而言，单向扫描的过程通常包括以下步骤：横向移动（X轴）：激光头沿X轴方向移动到图像的一侧。纵向移动（Y轴）：激光头沿Y轴方向开始逐行移动，刻蚀图像表面。这一过程是单向的，即在每一行上激光头只在一个方向上移动。返回横向移动：一旦一行完成，激光头返回到图像的一侧，准备进行下一行的刻蚀。

算法随笔：强连通分量-程序员宅基地

文章浏览阅读577次。强连通：在有向图G中，如果两个点u和v是互相可达的，即从u出发可以到达v，从v出发也可以到达u，则成u和v是强连通的。强连通分量：如果一个有向图G不是强连通图，那么可以把它分成躲个子图，其中每个子图的内部是强连通的，而且这些子图已经扩展到最大，不能与子图外的任一点强连通，成这样的一个“极大连通”子图是G的一个强连通分量（SCC）。强连通分量的一些性质：（1）一个点必须有出度和入度，才会与其他点强连通。（2）把一个SCC从图中挖掉，不影响其他点的强连通性。_强连通分量

Django(2)|templates模板+静态资源目录static_django templates-程序员宅基地

文章浏览阅读3.9k次，点赞5次，收藏18次。在做web开发，要给用户提供一个页面，页面包括静态页面+数据，两者结合起来就是完整的可视化的页面，django的模板系统支持这种功能，首先需要写一个静态页面,然后通过python的模板语法将数据渲染上去。1.创建一个templates目录2.配置。_django templates

linux下的GPU测试软件,Ubuntu等Linux系统显卡性能测试软件 Unigine 3D-程序员宅基地

文章浏览阅读1.7k次。Ubuntu等Linux系统显卡性能测试软件 Unigine 3DUbuntu Intel显卡驱动安装，请参考：ATI和NVIDIA显卡请在软件和更新中的附加驱动中安装。这里推荐：运行后，F9就可评分，已测试显卡有K2000 2GB 900+分，GT330m 1GB 340+ 分，GT620 1GB 340+ 分，四代i5核显340+ 分，还有写博客的小盒子100+ 分。relaybot@re...

AppsFlyer Unity V6_edm4u-程序员宅基地

文章浏览阅读1.8k次。AppsFlyer Unity Plugin V6踩坑记录Unity plugin V6 插件链接首先粗略讲一下EDM4U（Unity外部依赖管理器）。EDM4U类似于一个插件管理器，通过Android Resolver 和 iOS Resolver来进行库文件的下载、更新、去重等，目前新的facebook，google，appsflyer等插件都自带这两个玩意儿了。iOS开发需要注意一点，没有安装CocoaPods，则需要使用/Assets/External Dependency Manage_edm4u