Código de Perl - Distancia con N-Gramas

Imágen de perfil

Distancia con N-Gramasgráfica de visualizaciones


Perl

Publicado el 11 de Octubre del 2020 por Administrador (718 códigos)
334 visualizaciones desde el 11 de Octubre del 2020
En este algortimo la medida de similaridad se puede establecer mediante la siguiente fórmula:
Esta fórmula se conoce como el coeficiente de Dice, donde:
N = Número de gramas utilizados.
C = Número de gramas únicos que comparten las hileras.
Ai = Número de gramas únicos de una hilera.

Los valores de d(i,j) se encuentran en el intervalo [0,1] y entre más cercano a cero sea el valor de "d", más diferentes son las hileras comparadas.

1

Publicado el 11 de Octubre del 2020gráfica de visualizaciones de la versión: 1
335 visualizaciones desde el 11 de Octubre del 2020
estrellaestrellaestrellaestrellaestrella
estrellaestrellaestrellaestrella
estrellaestrellaestrella
estrellaestrella
estrella


Forma parte de Distancia con N-Gramas
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
#!/usr/bin/perl -w
use strict;
use warnings;
 
my @bigramas;
my @C;
my $cantTerminos;
my $numPal = 1;
 
# Este método se encarga de encontrar la cantidad total de bigramas que posee cada hilera
# y mientras esto se realiza se calcula el total de bigramas únicos almacenando cada bigrama
# obtenido en una estructura hash. El propósito de usar un hash es porque se pueden almacenar
# en él los distintos bigramas pero permite evitar guardar repetidos, por lo que al final de la
# revisión de la hilera el tamaño o cantidad de elementos del hash será el total de bigramas compartidos.
sub obtenerBigramas{
	my %bigramasUnicos;
	my $palabra = shift;					#Se obtiene el contenido del archivo
 
	chomp($palabra);
 
	my $tam = length($palabra);
 
	print "Hilera$numPal = $palabra = ";
 
	for(my $i = 0; $i < $tam-1; $i++) {
		$bigramasUnicos{substr($palabra,$i,2)} = 1;
		print substr($palabra,$i,2).(" ");
	}
 
	my $cantBigramNoUnicos = $tam -1;
	print "= $cantBigramNoUnicos\n";
 
	my $cant=scalar keys %bigramasUnicos;
 
	#Cantidad de bigramas para esa palabra
	my $cantBigramas = scalar keys %bigramasUnicos;
 
	print "Bigramas Unicos = $cantBigramas\n\n";
 
	undef %bigramasUnicos;
 
	#Se guarda la palabra junto con el total de sus bigramas correspondientes
	if($cantBigramas > 0){
		my $cadenaBigramas = $palabra." ";
		$cadenaBigramas = $cadenaBigramas.$cantBigramas;
 
		#El vector @bigramas contiene todas las palabras junto con su total de bigramas
		push(@bigramas, $cadenaBigramas);
		$cantTerminos++;
	}
	$numPal++;
}
 
sub bigramasComp{
	my $cadenaSij;
 
	for(my $i = 0; $i < $cantTerminos-1; $i++) {
		#Se obtiene la palabra($palabra1) y total de bigramas($tamPal1) de esa palabra
		my ($palabra1,$tamPal1) = split(' ',$bigramas[$i]);
 
		for(my $j = 1; $j < $cantTerminos; $j++) {
			#Se obtiene la palabra($palabra2) y total de bigramas($tamPal2) de esa palabra
			my ($palabra2,$tamPal2) = split(' ',$bigramas[$j]);
 
			#Se procede a calcular cuantos bigramas compartidos tienen las palabras $palabra1 y $palabra2
			#Ese valor será C
			my $C = calcularBigComp($palabra1,$tamPal1,$palabra2,$tamPal2);
			print "Cantidad de bigramas comunes = $C\n\n";
 
			#Se concatenan las palabras, la cantidad de bigramas compartidos entre ellas, y la cantidad
			#de bigramas de cada palabra
			$cadenaSij = $palabra1.("/").$palabra2.("/&").$C.("-").$tamPal1.("-").$tamPal2;
			push(@C,$cadenaSij);
		}
	}
}
 
#Este metodo se encarga de calcular la cantidad de bigramas compartidos para cada 2 palabras
#recibidas por parametros
sub calcularBigComp{
	my ($palabra1,$tamPal1,$palabra2,$tamPal2) = @_;
	my $bigramaTemp1;
	my $bigramaTemp2;
	my %hashTemp;
 
	#Para la palabra 1 se obtiene el primer bigrama. Luego éste se compara con cada uno de
	#los bigramas de la palabra 2. Los bigramas que comparten las palabras se almacenan en
	#una estructura hash. Finalmente se retorna la cantidad de elementos del hash que es
	#igual a la cantidad de bigramas compartidos(C).
	for(my $cont1 = 0; $cont1 < $tamPal1; $cont1++) {
		$bigramaTemp1 = substr($palabra1,$cont1,2);
 
		for(my $cont2 = 0; $cont2 < $tamPal2; $cont2++) {
			$bigramaTemp2 = substr($palabra2,$cont2,2);
 
			#Se usa hash para evitar almacenar elementos repetidos.
			if($bigramaTemp1 eq $bigramaTemp2){
				$hashTemp{$bigramaTemp1} = 1;
			}
		}
	}
	return scalar keys %hashTemp;
}
 
#Este metodo se encarga de calcular el valor de similitud entre cada palabra.
#Sij = 2*C/(A+B)
sub calcularSij{
	#@C contiene una cadena con las palabras i y j, su valor C, y total de bigramas compartidos(A y B)
	foreach my $temp(@C){
		my $temp2 =$temp;
		$temp2 =~ s/\&([0-9]*(\-)?)*//g;	#Se obtienen las palabras evaluadas
		$temp =~ s/(.*?)\/\&//g;			#Se obtienen los valores C,A y B
		my ($C,$A,$B) = split('-',$temp);
 
		my $sij = $temp2.(2*$C/($A+$B));	#Se concatenan las palabras con su valor Sij respectivo
 
		print "Sij = $sij\n";
	}
}
 
#Comienza a ejecutarse el programa.
my $continuar = "Si";
while($continuar eq "Si" || $continuar eq "si" || $continuar eq "SI"){
	my $hilera1;
	my $hilera2;
	print "DISTANCIA CON N-GRAMAS USANDO BIGRAMAS\n\n";
 
	print "Digite la hilera 1: ";
	$hilera1 = <STDIN>;
	chop($hilera1);
	print "\nDigite la hilera 2: ";
	$hilera2 = <STDIN>;
	chop($hilera2);
	print "\n";
 
	chomp($hilera1);
	obtenerBigramas($hilera1);
	chomp($hilera2);
	obtenerBigramas($hilera2);
 
	bigramasComp();
	calcularSij();
 
	print "\n\nDesea calcular la distancia con bigramas para otras dos hileras(Si/No)? ";
	$continuar = <STDIN>;
	chop($continuar);
 
	undef @bigramas;
	undef @C;
	$cantTerminos = 0;
	$numPal = 1;
}



Comentarios sobre la versión: 1 (0)


No hay comentarios
 

Comentar la versión: 1

Nombre
Correo (no se visualiza en la web)
Valoración
Comentarios...
CerrarCerrar
CerrarCerrar
Cerrar

Tienes que ser un usuario registrado para poder insertar imágenes, archivos y/o videos.

Puedes registrarte o validarte desde aquí.

Codigo
Negrita
Subrayado
Tachado
Cursiva
Insertar enlace
Imagen externa
Emoticon
Tabular
Centrar
Titulo
Linea
Disminuir
Aumentar
Vista preliminar
sonreir
dientes
lengua
guiño
enfadado
confundido
llorar
avergonzado
sorprendido
triste
sol
estrella
jarra
camara
taza de cafe
email
beso
bombilla
amor
mal
bien
Es necesario revisar y aceptar las políticas de privacidad

http://lwp-l.com/s6534