WEBVTT

1
00:00:07.950 --> 00:00:08.700
Vamos a acomodar.

2
00:02:06.960 --> 00:02:07.350
No está mal.

3
00:02:44.820 --> 00:02:44.910
Sí.

4
00:02:47.100 --> 00:02:47.190
Sí.

5
00:02:55.560 --> 00:02:56.790
Arratsalde on guztioi.

6
00:02:58.380 --> 00:03:02.880
Saiatu gara bostetan puntua puntua
xamar argitzen, hasten,

7
00:03:03.380 --> 00:03:07.130
batez ere errespetuagatik, zeren
jadanik hemen nahiko jende bazaudete,

8
00:03:07.190 --> 00:03:07.730
bagaude

9
00:03:08.020 --> 00:03:10.960
eta beraz, hemen daudenez, baita ere
ponentzia izango direnek gaurko saio

10
00:03:10.960 --> 00:03:11.320
honetan,

11
00:03:12.040 --> 00:03:13.480
ze ze hobe hastea baino.

12
00:03:14.020 --> 00:03:17.230
Lehenik eta behin barkamena eskatuz
hasi nahi nuke, zeren berez aurkezpen

13
00:03:17.230 --> 00:03:18.970
ekitaldi hau egin beharreko pertsona

14
00:03:19.520 --> 00:03:22.970
Gobernantza Diputatua zen Irune
Berasaluze, baina familiak kontu

15
00:03:22.970 --> 00:03:26.240
batzuengatik ezin izan du etorri eta
bere izenean barkamena eskatzen

16
00:03:26.240 --> 00:03:26.690
dizuet.

17
00:03:27.560 --> 00:03:28.760
Arratsalde on guztioi.

18
00:03:29.640 --> 00:03:33.900
Hasteko, adimen artifizialaren
etikari buruzko hitzaldi honetara

19
00:03:33.900 --> 00:03:36.780
etorri zareten pertsona guztiei
eskerrak eman nahi dizkizuet,

20
00:03:37.260 --> 00:03:41.250
eta era berean baita ere eskerrak
eman gai horren inguruan gaurkoan

21
00:03:41.310 --> 00:03:43.530
hizlari bezala arituko zaizkigun
hirukoteari,

22
00:03:44.020 --> 00:03:47.020
Gorka, Chechu eta Daniel Y ere, hain
zuzen ere.

23
00:03:48.020 --> 00:03:52.400
Adimen artifiziala gure eguneroko
jardunaren parte da, esan genezake

24
00:03:52.400 --> 00:03:56.210
jada parte dela, eta
Administrazioaren prozesuan

25
00:03:56.860 --> 00:04:00.610
eta zerbitzu publikoen parte ere
izaten hasia da.

26
00:04:01.540 --> 00:04:04.090
Benetako inpaktua dauka,

27
00:04:04.820 --> 00:04:07.100
gero eta handiagoa dena,

28
00:04:08.060 --> 00:04:11.960
eta ezinbestekoa zaigu gogoetarako
tarte bat hartzea.

29
00:04:12.920 --> 00:04:17.390
Horretara goaz gaurko gaurko saio
honetan. Geure buruari erakundeko

30
00:04:17.390 --> 00:04:21.260
arduradun bezala tokatzen zaigu
galdetzea edo galderak egitea, ea

31
00:04:21.260 --> 00:04:23.090
nola aplikatu behar ditugun

32
00:04:23.380 --> 00:04:24.970
irizpide etiko,

33
00:04:25.540 --> 00:04:27.520
irizpide etiko sendoak.

34
00:04:27.940 --> 00:04:29.890
Arlo publikoari dagokionez, esan
bezala.

35
00:04:31.220 --> 00:04:35.510
Gaur arratsaldeko saioa nagusiki
helburu horiek jorratzen saiatuko

36
00:04:35.510 --> 00:04:36.860
gara, hain zuzen ere,

37
00:04:37.420 --> 00:04:40.240
administrazioetan adimen artifiziala

38
00:04:40.480 --> 00:04:42.790
zentzuz eta erantzukizunez

39
00:04:43.220 --> 00:04:46.400
nola erabiltzea aztertzeko tarte bat
hartu

40
00:04:47.780 --> 00:04:52.400
edo egindako bideari buruz, zeren
bide bat egina dago, hausnartu

41
00:04:53.080 --> 00:04:54.580
eta azkenekoz, nolabait ere,

42
00:04:55.140 --> 00:04:59.220
aurrera begira dauzkagun erronkei
buruzko eztabaida bat irekitzea

43
00:04:59.680 --> 00:05:02.500
ponente eta hemen gauden guztion
artean.

44
00:05:04.580 --> 00:05:09.410
2023an Gipuzkoako Foru Aldundia
aitzindari izan zen, aitzindaria

45
00:05:09.410 --> 00:05:10.190
bihurtu zen.

46
00:05:10.920 --> 00:05:14.670
Datuak eta adimen artifiziala
erabiltzeko kode etiko bat onartzean.

47
00:05:15.260 --> 00:05:17.720
SAI espazio honetarako sarreran

48
00:05:18.060 --> 00:05:21.990
jadanik zuetako batzuk hartu dituzte,
baina nahi dituzuen beste guztiok hor

49
00:05:21.990 --> 00:05:25.470
dauzkazue baita ere kode etiko horren
inguruko erreferentziak eta

50
00:05:25.500 --> 00:05:27.330
eskuratzeko aukera izan zenezakete

51
00:05:28.900 --> 00:05:33.160
Aldundiari kode etikoen bidez
Aldundiari zein beste sektore

52
00:05:33.160 --> 00:05:35.740
publikoko erakundeei aplikatzen
zaiguna.

53
00:05:36.540 --> 00:05:40.380
Beraz, aplikazio eremu zabala dauka,
ez etxe barruan, baizik eta inguruan

54
00:05:40.380 --> 00:05:43.860
daukagu, sektore publiko guztiari ere
aplikatzeko modukoa da.

55
00:05:44.780 --> 00:05:47.540
Berrikuntza teknologikoak
hasiera-hasieratik

56
00:05:48.020 --> 00:05:52.970
printzipio argi eta partekatuak izan
behar dituela sinetsita eman zen

57
00:05:53.030 --> 00:05:55.220
urrats hori. Orain dela bi urte esan
bezala.

58
00:05:56.540 --> 00:06:00.020
Dos años se cumplen de aquel hito,
que fue el de aprobar un código de

59
00:06:00.020 --> 00:06:01.760
conducta de la Inteligencia
Artificial,

60
00:06:02.180 --> 00:06:05.300
que ha colocado, ha permitido colocar
a la Diputación Foral de Guipúzcoa

61
00:06:05.630 --> 00:06:07.250
como referente en su ámbito.

62
00:06:08.180 --> 00:06:11.750
Consideramos que, una vez pasado ese
tiempo, es un buen momento para

63
00:06:11.750 --> 00:06:12.500
detenernos,

64
00:06:13.000 --> 00:06:13.810
mirar atrás

65
00:06:14.140 --> 00:06:16.720
y evaluar el impacto de las
experiencias que se han puesto en

66
00:06:16.720 --> 00:06:17.230
marcha,

67
00:06:17.980 --> 00:06:21.160
pero también mirar hacia adelante
sobre qué es lo que o cuáles son los

68
00:06:21.160 --> 00:06:24.820
retos a los que nos debemos afrontar
los próximos meses y años.

69
00:06:25.700 --> 00:06:29.480
La inteligencia artificial plantean
nuevos interrogantes sobre hasta

70
00:06:29.480 --> 00:06:31.400
dónde pueden llegar los algoritmos,

71
00:06:33.160 --> 00:06:35.230
cómo preservar la confianza pública

72
00:06:36.860 --> 00:06:38.780
y cómo garantizar que no debilite,

73
00:06:39.480 --> 00:06:41.850
sino que refuerce la gobernanza
democrática.

74
00:06:43.060 --> 00:06:45.430
De todo ello, me imagino que nos
hablarán los tres ponentes en la

75
00:06:45.430 --> 00:06:47.350
jornada de hoy. En este contexto,

76
00:06:47.880 --> 00:06:52.080
el código ético aprobado por la
diputación es sobretodo un marco de

77
00:06:52.080 --> 00:06:52.890
orientación

78
00:06:53.240 --> 00:06:57.320
que expresa una manera de entender el
uso de la tecnología en el mundo.

79
00:06:57.320 --> 00:06:58.490
Publicó en lo público

80
00:06:59.700 --> 00:07:04.320
un marco que se apoya en cinco
principios éticos fundamentales.

81
00:07:05.860 --> 00:07:08.470
El principio de no mal eficiencia,

82
00:07:10.120 --> 00:07:11.650
el respeto a los derechos,

83
00:07:12.760 --> 00:07:13.990
la beneficencia,

84
00:07:15.000 --> 00:07:17.520
la transparencia, y, por último,

85
00:07:17.840 --> 00:07:20.240
la participación y el control
público.

86
00:07:21.500 --> 00:07:24.590
Lehenik eta behin, kalterik ez
eragiteko printzipioa.

87
00:07:25.140 --> 00:07:28.230
Maleficent esandako hori kalterik
egin ez,

88
00:07:28.660 --> 00:07:33.970
eta datuen eta sistemen sistema,
algoritmoen erabileran inpaktu

89
00:07:33.970 --> 00:07:38.050
diskriminatzaileak saihesteko
konpromisoa, hori izango litzateke

90
00:07:38.050 --> 00:07:38.590
aurrenekoa,

91
00:07:39.340 --> 00:07:40.810
zeren, guztiok dakigun bezala,

92
00:07:41.180 --> 00:07:42.800
teknologia ez da neutroa

93
00:07:43.760 --> 00:07:46.160
eta horregatik kontu handiz ibili
behar dugu

94
00:07:46.580 --> 00:07:50.120
pertsonengan eta kolektiboengana
dituen ondorioekin.

95
00:07:51.460 --> 00:07:55.540
Bigarrena, pertsonekiko eta haien
eskubideekiko errespetua.

96
00:07:56.120 --> 00:07:58.850
Pribatutasuna, datu, pertsonaren
babesa

97
00:07:59.340 --> 00:08:03.360
eta ondorio garrantzitsuak izan
ditzaketen erabaki zita zuen

98
00:08:03.420 --> 00:08:07.650
beharrezko gisa, giza errebisioa
bermatuz.

99
00:08:09.080 --> 00:08:10.400
Adimen artifizialak.

100
00:08:11.240 --> 00:08:15.320
Hori gero eztabaida izango da.
Pertsonen zerbitzura egon behar du.

101
00:08:16.350 --> 00:08:17.280
Ez alderantziz,

102
00:08:17.740 --> 00:08:20.140
pertsonen zerbitzura ez alderantziz.

103
00:08:20.820 --> 00:08:22.980
Hirugarren printzipio ongintza harena
da.

104
00:08:23.700 --> 00:08:26.670
Datuak eta adimen artifiziala
erabiltzen da zerbitzu publikoak

105
00:08:26.670 --> 00:08:27.300
hobetzeko,

106
00:08:27.620 --> 00:08:29.930
eraginkorragoak eta bidezkoagoak
izateko

107
00:08:30.360 --> 00:08:34.500
eta ongizatea eta elkarren arteko
komunikazioa indartzen laguntzeko.

108
00:08:35.740 --> 00:08:40.000
Berrikuntzak interes orokorra hobeto
zerbitzatzeko bidea izan behar du.

109
00:08:41.780 --> 00:08:43.580
Laugarrengoa, gardentasuna.

110
00:08:44.179 --> 00:08:49.400
Zer algoritmo erabiltzen diren, zer
daturekin eta zein helbururekin argi

111
00:08:49.400 --> 00:08:51.230
eta garbi azaltzeko betebeharra.

112
00:08:52.360 --> 00:08:53.680
Konfiantza publikoa

113
00:08:54.200 --> 00:08:57.050
kontu ematetik bakarrik eraiki eraiki
daiteke.

114
00:08:57.980 --> 00:09:00.530
Hau Gobernuaren printzipioetako bat
da, kontu ematearena,

115
00:09:01.280 --> 00:09:04.580
eta, azkenik, partaidetzaren eta
kontrol publikoaren printzipioa,

116
00:09:05.140 --> 00:09:05.980
herritarrak,

117
00:09:06.340 --> 00:09:07.660
alegia, hemen gauden guztiok,

118
00:09:07.940 --> 00:09:10.760
langile publikoak eta sistema horien
gobernantzan

119
00:09:11.320 --> 00:09:12.460
eta gainbegiratzen

120
00:09:12.780 --> 00:09:14.520
adituak diren pertsonak,

121
00:09:15.000 --> 00:09:17.580
inplikazioaren garrantzia
gogorarazten diguna.

122
00:09:18.620 --> 00:09:19.820
Adimen artifiziala

123
00:09:20.320 --> 00:09:22.570
arlo publikoan ezin da kutxa beltz

124
00:09:22.700 --> 00:09:24.140
bat bezala kontsideratu.

125
00:09:25.060 --> 00:09:26.740
Hoy contamos con tres ponentes

126
00:09:27.540 --> 00:09:30.420
que nos ayudarán a profundizar en
estas cuestiones

127
00:09:30.920 --> 00:09:32.540
desde enfoques complementarios.

128
00:09:33.880 --> 00:09:38.530
Cerca mío está Daniel Innerarity,
catedrático de Filosofía Política y

129
00:09:38.530 --> 00:09:42.190
Social, director del Instituto de
Gobernanza Democrática, Globernance.

130
00:09:43.380 --> 00:09:46.050
Reflexionará sobre el alcance de la
gobernanza algorítmica

131
00:09:46.280 --> 00:09:48.770
y sobre los límites de la
automatización en la toma de

132
00:09:48.770 --> 00:09:50.000
decisiones públicas,

133
00:09:50.840 --> 00:09:54.500
poniendo el foco en aquello que sigue
queriendo juicio humano,

134
00:09:55.000 --> 00:09:56.320
deliberación ética,

135
00:09:57.000 --> 00:09:58.470
irresponsabilidad democrática.

136
00:10:00.160 --> 00:10:01.960
Junto a él se encuentra Txetxu Ausin,

137
00:10:02.340 --> 00:10:06.240
investigador científico del Instituto
de Filosofía del CIS, del CSIC

138
00:10:07.220 --> 00:10:11.000
y experto en ética pública y
tecnologías disruptivas.

139
00:10:11.320 --> 00:10:13.660
Nos hablará de las oportunidades

140
00:10:13.960 --> 00:10:16.600
que ofrece la inteligencia artificial
en la Administración pública

141
00:10:17.340 --> 00:10:21.090
y también de la necesidad de
construir un marco ético sólido

142
00:10:21.440 --> 00:10:22.580
que genere confianza,

143
00:10:23.060 --> 00:10:24.080
legitimidad

144
00:10:26.740 --> 00:10:27.970
y aceptación social.

145
00:10:28.760 --> 00:10:31.820
Además, su aportación tiene un valor
especial, ya que colaboro

146
00:10:31.820 --> 00:10:35.720
directamente en la elaboración del
código ético que hemos mencionado con

147
00:10:35.720 --> 00:10:36.290
anterioridad.

148
00:10:36.860 --> 00:10:38.030
Por último, Gorka Blanco,

149
00:10:39.140 --> 00:10:42.590
Director de Estrategia y
Transformación Digital en España,

150
00:10:42.910 --> 00:10:45.330
entidad pública de la Diputación
Foral de Guipúzcoa,

151
00:10:45.860 --> 00:10:49.100
Igor, que en este caso nos acercará a
la experiencia práctica

152
00:10:49.560 --> 00:10:53.190
explicando cómo estos principios
éticos se están aplicando de manera

153
00:10:53.190 --> 00:10:56.640
concreta en los proyectos de
inteligencia artificial que se

154
00:10:56.640 --> 00:10:59.760
desarrollan para la diputación,
compartiendo aprendizajes,

155
00:11:00.340 --> 00:11:02.560
dificultades y resultados reales.

156
00:11:03.860 --> 00:11:09.590
Aparte de intervenir la moderación y
la gestión del espacio y de la sesión

157
00:11:09.650 --> 00:11:13.160
va a correr a cargo de Txetxu Ausin,
que es al que le cedo la palabra y a

158
00:11:13.160 --> 00:11:15.980
partir de ahí te toca liderar todo
este evento. Eskerrik asko.

159
00:11:25.220 --> 00:11:25.610
Bueno,

160
00:11:26.260 --> 00:11:27.790
buenas tardes a todos de todos.

161
00:11:29.040 --> 00:11:32.730
Es un gusto estar aquí con todos
ustedes. Gracias a la diputación por

162
00:11:32.730 --> 00:11:37.230
organizar esta jornada, dos años
después, precisamente para analizar

163
00:11:37.230 --> 00:11:42.110
un poco cuál es el recorrido que ha
tenido este código sobre los datos en

164
00:11:42.110 --> 00:11:44.730
la inteligencia artificial de la
Diputación Foral de Gipuzkoa, que es

165
00:11:44.730 --> 00:11:49.800
un código pionero en una institución
pública y que, además de detener el

166
00:11:49.800 --> 00:11:54.810
código, ha tenido la. Bueno, pues el
buen hacer de concretarlo en una

167
00:11:54.810 --> 00:11:57.900
serie de buenas prácticas, como se
recogen también en el código. Y lo

168
00:11:57.900 --> 00:12:03.090
que vamos a ver esta tarde es un poco
ese tránsito de lo más general a lo

169
00:12:03.090 --> 00:12:03.900
más particular.

170
00:12:04.240 --> 00:12:07.370
Y cómo pasamos de las musas al
teatro, que es un poco lo que. Lo que

171
00:12:07.390 --> 00:12:10.180
también nos interesa en el día a día
de la ciudadanía, de las

172
00:12:10.180 --> 00:12:13.000
organizaciones, de las empresas, de
las instituciones.

173
00:12:13.400 --> 00:12:17.000
Lo que vamos a hacer esta tarde es
hacer tres verdades, presentaciones.

174
00:12:17.360 --> 00:12:21.470
Plazara. Daniel, hablando sobre hasta
cuándo, hasta dónde pueden gobernar

175
00:12:21.470 --> 00:12:22.250
los algoritmos,

176
00:12:22.500 --> 00:12:25.200
luego integró entre ellos también
brevemente, y en último lugar

177
00:12:25.230 --> 00:12:29.670
intervendrá Gorka Blanco, contando un
poco cuál es el proceso de evaluación

178
00:12:29.670 --> 00:12:32.580
de impacto ético en el desarrollo de
la inteligencia artificial aquí, en

179
00:12:32.580 --> 00:12:35.430
la Diputación Foral de Guipúzcoa.
Cuando acabamos de intervenir los

180
00:12:35.430 --> 00:12:39.300
tres, pues habilidad, un turno de
conversación, de debate. Y están

181
00:12:39.300 --> 00:12:42.860
todos ustedes invitados e invitadas a
participar en el mismo para,

182
00:12:42.980 --> 00:12:46.070
para tener esta conversación y hacer
balance de.

183
00:12:46.340 --> 00:12:48.500
De lo que ha supuesto el código de
ética

184
00:12:48.820 --> 00:12:52.000
de la Inteligencia Artificial, los
datos en la Diputación Foral de

185
00:12:52.000 --> 00:12:55.270
Guipúzcoa. Así que, Daniel, te doy la
palabra y cuando quieras.

186
00:12:59.500 --> 00:13:00.760
Bueno, Arratsalde on guztioi,

187
00:13:01.540 --> 00:13:01.960
eh.

188
00:13:02.960 --> 00:13:05.720
Hasteko, eskerrak eman nahi dizkiot

189
00:13:06.840 --> 00:13:09.390
Gipuzkoako Foru Aldundiari eta

190
00:13:09.960 --> 00:13:11.160
etorri etorri zareten guztioi.

191
00:13:12.760 --> 00:13:13.570
Voy a

192
00:13:14.060 --> 00:13:18.410
contar tres cosas. De dónde viene
esto? ¿A qué obedece?

193
00:13:19.120 --> 00:13:23.230
Que tengamos que recurrir cada vez
más a instrumentos sofisticados para

194
00:13:23.230 --> 00:13:24.940
la toma de decisiones políticas que
no.

195
00:13:25.620 --> 00:13:26.670
No viene de ayer.

196
00:13:28.110 --> 00:13:30.030
Cuáles son las promesas
concretamente?

197
00:13:31.280 --> 00:13:33.020
Os voy a quemar la gobernanza
algorítmica,

198
00:13:33.520 --> 00:13:35.200
y, finalmente, cuáles son sus
límites.

199
00:13:36.540 --> 00:13:41.250
En cuanto una sociedad alcanza un
cierto nivel de complejidad, hay

200
00:13:41.250 --> 00:13:43.950
mucha gente, hay muchos intereses,
hay muchas necesidades.

201
00:13:44.510 --> 00:13:46.960
Y, como siempre, pocos recursos,

202
00:13:47.300 --> 00:13:48.620
y hay que tomar decisiones,

203
00:13:49.300 --> 00:13:49.780
eh,

204
00:13:50.600 --> 00:13:51.950
cada vez es más necesaria.

205
00:13:53.170 --> 00:13:54.530
Es necesario tener a disposición

206
00:13:54.960 --> 00:13:56.490
e instrumentos

207
00:13:56.760 --> 00:13:58.320
sofisticados, instrumentos

208
00:13:59.020 --> 00:14:02.170
que que garanticen la corrección de
las decisiones que,

209
00:14:02.580 --> 00:14:05.670
por supuesto que tramiten una
cantidad de datos cada vez más

210
00:14:05.970 --> 00:14:06.540
enorme.

211
00:14:07.060 --> 00:14:09.010
Esta, esta tendencia, no

212
00:14:10.370 --> 00:14:13.490
va seguir aumentando con el. Con el
tiempo, va a seguir creciendo.

213
00:14:14.200 --> 00:14:18.250
Con lo cual no es un escenario
verosímil el que podamos,

214
00:14:18.800 --> 00:14:23.210
eh, retornar a los tiempos en los
cuales uno lo decidía. Uno,

215
00:14:23.970 --> 00:14:29.720
una. Antes uno, desidia, con un papel
y lápiz, como se asignaba los

216
00:14:29.720 --> 00:14:30.350
recursos.

217
00:14:32.730 --> 00:14:33.580
Decir siempre.

218
00:14:35.740 --> 00:14:39.250
La propia burocracia. La validez de
la administración de burocracia,

219
00:14:39.620 --> 00:14:40.850
surge precisamente

220
00:14:41.360 --> 00:14:44.480
hacía muchos años. En cuanto

221
00:14:44.940 --> 00:14:47.940
con las sociedades, tenemos
necesidad, a la hora de justificar

222
00:14:47.940 --> 00:14:48.840
nuestras decisiones

223
00:14:49.240 --> 00:14:55.330
de principios, formalizaba les dé.
Una una autoridad

224
00:14:56.060 --> 00:14:57.740
menos subjetiva, menos

225
00:14:59.680 --> 00:15:04.030
dependiente de la subjetividad de la
persona, que, por lo que sea, hemos

226
00:15:04.030 --> 00:15:06.700
caído en desgracia o en gracia, y
entonces nos da una,

227
00:15:07.220 --> 00:15:08.840
una respuesta u otra no

228
00:15:09.300 --> 00:15:10.050
que haya. Cada vez

229
00:15:10.460 --> 00:15:13.380
la autoridad política se expresó de
manera cada vez más procedimental y

230
00:15:13.380 --> 00:15:14.370
menos carismática.

231
00:15:16.280 --> 00:15:21.110
Y la cuestión que todo esto plantea
es. Ahora estamos en un momento en el

232
00:15:21.110 --> 00:15:21.410
cual

233
00:15:22.060 --> 00:15:25.450
tenemos esto que se llaman los
sistemas automáticos de automatizados

234
00:15:25.450 --> 00:15:26.110
de decisión.

235
00:15:27.000 --> 00:15:30.060
¿Hasta qué punto? Ésta sería la
pregunta que yo ahora te voy a tratar

236
00:15:30.060 --> 00:15:33.240
de responder aquí? Hasta que punto,
¿esos sistemas,

237
00:15:33.480 --> 00:15:35.340
¿qué deciden? Sin nosotros?

238
00:15:35.880 --> 00:15:36.600
Coinciden

239
00:15:37.870 --> 00:15:40.270
a veces contra nosotros y con
autonomía propia?

240
00:15:42.370 --> 00:15:45.890
¿Eso es compatible con un principio
democrático de autodeterminación, la

241
00:15:45.890 --> 00:15:46.370
democracias,

242
00:15:46.980 --> 00:15:47.940
libre decisión,

243
00:15:49.640 --> 00:15:53.840
voluntad popular, soberanía popular.
¿Y qué pasa cuando?

244
00:15:55.420 --> 00:15:58.030
En una medida masiva, como está
ocurriendo y como cada vez va a

245
00:15:58.030 --> 00:16:01.810
ocurrir más, la concesión de un
crédito, de una ayuda social,

246
00:16:02.100 --> 00:16:04.350
de una financiación, de una
subvención,

247
00:16:05.280 --> 00:16:10.530
se deja en parte, o en casi todo, o
en todo, en manos de un sistema

248
00:16:10.590 --> 00:16:13.170
automatizada de decisión? ¿Eso es
compatible con

249
00:16:13.560 --> 00:16:15.930
el principio democrático de que
debemos decidir

250
00:16:16.460 --> 00:16:17.890
los humanos?

251
00:16:20.740 --> 00:16:25.800
segundo punto. Esto, estos sistemas,
estos procedimientos, algo químicos,

252
00:16:25.800 --> 00:16:27.050
se basan fundamentalmente

253
00:16:27.520 --> 00:16:29.980
en una doble promesa. La promesa de
que son

254
00:16:30.600 --> 00:16:35.250
más objetivos y que son más
subjetivos lo explicó en los que no

255
00:16:35.250 --> 00:16:37.560
es contradictorio lo explico. ¿En
qué? ¿En qué sentido?

256
00:16:38.180 --> 00:16:39.650
Objetivos, en el sentido de que

257
00:16:40.970 --> 00:16:42.500
van a tomar decisiones

258
00:16:43.400 --> 00:16:44.090
sin

259
00:16:44.260 --> 00:16:46.720
tener en cuenta el estado de ánimo de
las personas,

260
00:16:47.280 --> 00:16:48.330
y que están detrás.

261
00:16:49.910 --> 00:16:52.700
En un momento además, por ejemplo,
ahora a pensar que uno de los temas

262
00:16:52.700 --> 00:16:53.900
de moda es la polarización.

263
00:16:55.120 --> 00:16:57.050
El campo frío hace.

264
00:16:57.980 --> 00:16:59.930
Baina de Navidad ya con la
polarización,

265
00:17:00.660 --> 00:17:01.140
eh

266
00:17:01.960 --> 00:17:05.310
entonces, claro que bien, no ve en
medio de esta polarización que bien.

267
00:17:05.940 --> 00:17:07.440
Que tener un sistema que.

268
00:17:07.940 --> 00:17:11.900
Que no polarice, sino que objetive la
discusión. Tú tienes tanto, tú te

269
00:17:11.900 --> 00:17:14.390
mereces tanto. Esto está la dirección
correcta.

270
00:17:15.319 --> 00:17:17.320
Y además encima, en lugar de

271
00:17:18.339 --> 00:17:20.170
de esos sectarismos,

272
00:17:21.359 --> 00:17:24.590
los que estamos rodeados y los que
somos expresa muchas veces lo que

273
00:17:24.599 --> 00:17:29.010
tenemos, un sistema neutro, objetivo,
objetivable, etcétera, no

274
00:17:29.900 --> 00:17:32.690
bueno, esta es la promesa a. La
realidad, es

275
00:17:33.100 --> 00:17:35.260
bien distinta. ¿Por qué? Porque todos
sabemos que

276
00:17:36.460 --> 00:17:40.000
con esto sistemas no desaparece la
autoridad, sino que ha aparecido otro

277
00:17:40.000 --> 00:17:42.970
tipo de autoridad. Por ejemplo, la
autoridad de las plataformas, nunca.

278
00:17:43.300 --> 00:17:44.380
Nunca habríamos pensado.

279
00:17:45.300 --> 00:17:46.980
Se podía concentrar tanto poder

280
00:17:47.300 --> 00:17:50.390
como en aquellas plataformas que
teóricamente,

281
00:17:52.000 --> 00:17:55.810
como decía, se decía al principio de
Internet, aquí viene todo el mundo y

282
00:17:55.810 --> 00:17:59.140
por tanto, esto está abierto a
cualquiera y no hay ningún. No hay

283
00:17:59.140 --> 00:18:01.900
ninguna puerta de entrada. Y además
encima, y lo más,

284
00:18:02.020 --> 00:18:02.680
ito,

285
00:18:02.900 --> 00:18:04.400
y todo lo pongo entrecomillas, Kito.

286
00:18:04.740 --> 00:18:08.070
Todas las revisiones manuales.

287
00:18:08.500 --> 00:18:11.650
Que, qué excluían a determinados

288
00:18:12.640 --> 00:18:16.510
actores en las redes sociales, por
ejemplo, a Donald Trump, que fue

289
00:18:16.510 --> 00:18:20.020
expulsada de Twitter y luego fue
readmitido, ¿que querían, o qué?

290
00:18:20.480 --> 00:18:21.230
Qué democrático.

291
00:18:22.180 --> 00:18:23.620
Bueno, esto tiene.

292
00:18:24.510 --> 00:18:27.810
Cuando hay otro problema que tiene
que ver con la objetividad,

293
00:18:28.580 --> 00:18:32.270
que es el problema de que lo que se
llama un sesgo de automatización. Y

294
00:18:32.270 --> 00:18:32.990
los humanos

295
00:18:33.460 --> 00:18:37.180
tendemos a pensar que las cosas
decididas automáticamente,

296
00:18:38.330 --> 00:18:39.920
donde no hay un sujeto detrás,

297
00:18:40.750 --> 00:18:42.220
ya no necesitan justificación, no.

298
00:18:42.580 --> 00:18:45.220
Lo que necesita justificación es una
decisiones humanas, pero las

299
00:18:45.220 --> 00:18:45.730
decisiones

300
00:18:46.340 --> 00:18:47.240
de una máquina no.

301
00:18:48.490 --> 00:18:49.270
Seguro que os ha pasado.

302
00:18:50.040 --> 00:18:53.130
En todas las burocracias, excluye a
la Diputación Foral de Guipúzcoa.

303
00:18:53.490 --> 00:18:54.590
En todas las democracias,

304
00:18:54.940 --> 00:18:57.700
de todas las burocracias, tú vas a un
sitio,

305
00:18:58.300 --> 00:19:03.640
¿quieres pides algo? Y te dicen como
respuesta final. La máquina no me

306
00:19:03.640 --> 00:19:04.000
deja

307
00:19:05.050 --> 00:19:08.170
el aviso, ha ido 1000 veces la
máquina. Hay un. Hay un sketch que yo

308
00:19:08.170 --> 00:19:08.890
suelo poner en clase.

309
00:19:09.880 --> 00:19:11.230
Una madre que iba con una hija,

310
00:19:11.800 --> 00:19:14.380
les quede Nashiri británica, no, ¿qué
va

311
00:19:15.100 --> 00:19:19.140
a operar a su hija de. Pues no sé de
qué era de una bobada.

312
00:19:19.680 --> 00:19:25.290
Y entonces el tío mira en el
ordenador y fulanito Zita, si tiene

313
00:19:25.290 --> 00:19:27.510
usted, le vamos a cambiar la cadera

314
00:19:27.820 --> 00:19:31.720
esta tarde y la madre dice. Pero,
pero si la cadera la tiene bien, si.

315
00:19:31.870 --> 00:19:33.470
El problema suyo, un poema de oído.

316
00:19:34.280 --> 00:19:37.250
Y mire, Atal dice. Con piezas seis,
no

317
00:19:38.220 --> 00:19:42.060
osea el ordenador, dice que usted le
cambiamos la cadera.

318
00:19:42.740 --> 00:19:43.940
Es una broma, pero.

319
00:19:44.340 --> 00:19:46.290
Pero una broma que hay que tomárselo
muy en serio, no

320
00:19:46.820 --> 00:19:49.820
la otra promesa, la promesa de
subjetividad, en el sentido de.

321
00:19:50.680 --> 00:19:51.340
Gracias a.

322
00:19:51.800 --> 00:19:55.550
A las huellas que nosotros dejamos,
nuestro comportamiento habitual,

323
00:19:56.800 --> 00:20:00.700
lo que decimos en las redes sociales,
el consumo, la movilidad, etcétera.

324
00:20:01.560 --> 00:20:01.920
Eh

325
00:20:03.850 --> 00:20:07.090
los sensores digitales, que además,
cada vez hay más sensores digitales,

326
00:20:07.540 --> 00:20:08.260
puedes saber

327
00:20:08.520 --> 00:20:12.930
con muchísima precisión qué es lo que
teóricamente. La palabra

328
00:20:12.930 --> 00:20:13.650
teóricamente,

329
00:20:14.360 --> 00:20:14.720
eh,

330
00:20:15.120 --> 00:20:18.240
significa mucho. Teóricamente.
Nosotros queremos,

331
00:20:18.380 --> 00:20:18.650
eh

332
00:20:19.100 --> 00:20:21.560
de hecho, nos están todo el día
recomendando cosas

333
00:20:22.260 --> 00:20:25.590
que responden a lo que hemos
comprado, a lo que realmente

334
00:20:25.960 --> 00:20:28.210
en principio nos gusta, en principio
nos gusta, no

335
00:20:28.780 --> 00:20:31.600
luego nos damos cuenta de que eso
también tiene cosas cumplidamente

336
00:20:31.600 --> 00:20:32.530
absurdas. Yo fui aún.

337
00:20:32.900 --> 00:20:37.430
Yo fui a un hotel, a un hotel, hace
poco en el Duero, a un Congreso de

338
00:20:37.430 --> 00:20:37.970
Filosofía.

339
00:20:38.780 --> 00:20:42.230
Y el hotel tenía un embarcadero con
yates allí, en el duro.

340
00:20:42.740 --> 00:20:44.660
Y entonces, en cuanto a brillo,

341
00:20:46.570 --> 00:20:49.930
Internet, me empezaron a bombardear
con anuncios de yates,

342
00:20:50.280 --> 00:20:53.130
que, evidentemente es una cosa que me
interesa muchísimo. Oye, tengo ya

343
00:20:53.130 --> 00:20:53.700
seis o siete,

344
00:20:54.720 --> 00:20:58.620
y identificó que yo estaba ya, con lo
cual, a excepción, le gustan los

345
00:20:58.620 --> 00:21:01.650
yates. Tiene cosas de este tipo
absurdas y otra cosa

346
00:21:02.240 --> 00:21:04.130
no tan absurdas y bastante perversas.

347
00:21:05.100 --> 00:21:05.580
Pero

348
00:21:06.370 --> 00:21:07.060
en el fondo,

349
00:21:07.740 --> 00:21:10.530
sobre esto se podría decir mucho,
pero es verdad que pueden conocer

350
00:21:11.330 --> 00:21:13.070
con bastante grado de precisión

351
00:21:14.130 --> 00:21:14.910
lo que.

352
00:21:15.130 --> 00:21:18.330
Cuáles son nuestras preferencias y
nuestros intereses. Pero también es

353
00:21:18.330 --> 00:21:20.400
verdad que en el capitalismo

354
00:21:20.900 --> 00:21:23.510
esto de las preferencias y los
intereses tiene también un cierto

355
00:21:23.510 --> 00:21:25.040
nivel de artificio, y obviamente

356
00:21:25.320 --> 00:21:26.010
a veces

357
00:21:26.340 --> 00:21:27.510
no es tanto que

358
00:21:27.900 --> 00:21:31.800
nos den lo que nosotros preferimos
como que terminamos prefiriendo lo

359
00:21:31.800 --> 00:21:35.610
que ellos nos ofrecen, y se crea una
cuantas veces

360
00:21:36.120 --> 00:21:40.140
hay comportamientos compulsivos de
compra en Internet, probablemente, en

361
00:21:40.140 --> 00:21:44.340
el mundo analógico sean un poco más
difíciles, porque es tan fácil no y

362
00:21:44.340 --> 00:21:45.540
además están precisó hoy,

363
00:21:46.180 --> 00:21:48.940
y además acierta casi siempre.
Efectivamente, me gustan los yates o

364
00:21:48.940 --> 00:21:49.390
lo que sea,

365
00:21:50.480 --> 00:21:51.080
EH. Bueno,

366
00:21:52.050 --> 00:21:52.760
sobretodo,

367
00:21:53.900 --> 00:21:57.710
me parece bien que el problema es que
satisfacen nuestros deseos

368
00:21:58.850 --> 00:22:02.570
a cambio de una cierta renuncia a
reflexionar sobre ellos, a que

369
00:22:02.570 --> 00:22:04.340
reflexionemos sobre ellos, porque es
verdad que

370
00:22:04.980 --> 00:22:09.330
¿qué tenemos, deseos y necesidades, e
intereses y preferencias.

371
00:22:09.880 --> 00:22:11.020
Pero él,

372
00:22:11.760 --> 00:22:13.890
esta tecnología está configurada de
tal manera.

373
00:22:14.520 --> 00:22:14.790
¿Qué

374
00:22:16.080 --> 00:22:19.470
es tan fácil? ¿Es tan cómoda? Está un
poco impositiva, porque nadie nos

375
00:22:19.470 --> 00:22:21.810
dice Compra esto, sino que ponen a
Julen

376
00:22:22.280 --> 00:22:23.690
una imagen de alcohol,

377
00:22:24.340 --> 00:22:29.050
que uno puede terminar ahorrándose la
reflexión acerca de si realmente son

378
00:22:29.090 --> 00:22:30.880
lo que quiere. Entonces, bueno,

379
00:22:31.480 --> 00:22:35.050
no nos satisfacen, a cambio de que se
entreguemos

380
00:22:36.380 --> 00:22:38.930
una cierta irreflexiva y da una
renuncia

381
00:22:39.360 --> 00:22:40.860
a reflexionar sobre esto.

382
00:22:41.950 --> 00:22:46.210
Y en el fondo lo que está detrás es
la sustitución

383
00:22:46.940 --> 00:22:47.930
de la voluntad

384
00:22:48.180 --> 00:22:49.500
politika explícita,

385
00:22:50.040 --> 00:22:52.890
por lo que podíamos llamar la
voluntad implícita del consumidor.

386
00:22:53.790 --> 00:22:56.550
Como consumidores tenemos una
voluntad implícita, más o menos,

387
00:22:57.260 --> 00:22:59.600
se supone que nos gustan esas cosas,
pero como

388
00:23:00.220 --> 00:23:04.900
ciudadanos y ciudadanas tenemos
derecho y obligación, diría yo,

389
00:23:06.220 --> 00:23:10.240
es a formular una voluntad política
expresa explícita no es

390
00:23:10.760 --> 00:23:14.450
genérica como la del consumidor, sino
¿tú quieres esto o quieres esto otro.

391
00:23:16.780 --> 00:23:22.150
Bien. Entonces, ¿cuáles serían las
limitaciones de democráticas de la de

392
00:23:22.150 --> 00:23:24.100
la gobernanza? Algorítmica?

393
00:23:24.380 --> 00:23:25.400
Bueno, fundamentalmente

394
00:23:26.960 --> 00:23:30.680
elaboración algorítmica. ¿Estos
sistemas de decisión sirven para.

395
00:23:30.790 --> 00:23:33.290
Para unas cosas y para otras cosas no
sirven tanto.

396
00:23:34.040 --> 00:23:35.570
Y por tanto es muy importante.

397
00:23:36.780 --> 00:23:37.950
Quien tiene que

398
00:23:38.800 --> 00:23:42.340
gobernar y que poner al servicio de
decisiones de políticas públicas,

399
00:23:42.800 --> 00:23:44.000
instrumentos de este estilo,

400
00:23:44.360 --> 00:23:45.260
se pregunte.

401
00:23:45.860 --> 00:23:47.510
Para qué tipo de decisiones son

402
00:23:48.000 --> 00:23:48.350
ERE,

403
00:23:48.680 --> 00:23:49.280
son

404
00:23:50.440 --> 00:23:53.500
apropiados, y para qué tipo de
decisiones, o para que parte de la.

405
00:23:53.980 --> 00:23:56.600
El problema son útiles y disparar.

406
00:23:56.940 --> 00:23:59.400
Y otra parte, fundamentalmente,

407
00:24:00.350 --> 00:24:03.470
tiene. Tienen un carácter
instrumental estos estos

408
00:24:03.980 --> 00:24:04.790
dispositivos.

409
00:24:05.540 --> 00:24:07.460
Se trata con ellos de conseguir

410
00:24:07.700 --> 00:24:12.170
objetivos predeterminados, pero no
tanto de determinar los objetivos. No

411
00:24:12.170 --> 00:24:12.920
es un juego de palabras,

412
00:24:13.480 --> 00:24:13.720
eh

413
00:24:15.590 --> 00:24:19.010
si determina a objetivos quieres que
sirvan.

414
00:24:19.780 --> 00:24:21.430
Las máquinas lo hacen relativamente
bien.

415
00:24:22.780 --> 00:24:24.880
Pero la determinación de los
objetivos

416
00:24:25.460 --> 00:24:27.890
no es tan tan evidentes ni tan fácil.

417
00:24:28.160 --> 00:24:29.960
Un ejemplo que a mí me gustaba mucho
esto.

418
00:24:31.100 --> 00:24:33.140
El sistema escolar de Nueva York.

419
00:24:35.940 --> 00:24:39.870
Inventó un algoritmo para la
distribución de alumnos y alumnas en

420
00:24:39.870 --> 00:24:40.320
el sistema,

421
00:24:41.440 --> 00:24:44.200
y cuando ya lo tenían hecho, de
repente se dieron cuenta que no

422
00:24:44.200 --> 00:24:46.630
habían resuelto el problema
fundamental. El problema fundamental

423
00:24:47.940 --> 00:24:48.360
dela

424
00:24:48.740 --> 00:24:52.070
distribución educativa, que es que
tenemos dos,

425
00:24:52.860 --> 00:24:54.330
por simplificarlo mucho todo.

426
00:24:54.780 --> 00:24:57.420
Tenemos dos visiones contrapuestas,
haya una visión

427
00:24:57.840 --> 00:25:01.710
que pone el derecho de los padres a
elegir el centro educativo en él,

428
00:25:02.340 --> 00:25:03.540
como el valor fundamental,

429
00:25:03.940 --> 00:25:06.820
y hay otros que piensan que el valor
fundamental en la distribución

430
00:25:06.820 --> 00:25:09.250
escolar tiene que ver con la cohesión
social.

431
00:25:10.040 --> 00:25:13.760
Las dos cosas son sensatas. No hay
que molestar mucho a los padres,

432
00:25:14.950 --> 00:25:18.160
pero también es verdad que la
cohesión social es importante. No

433
00:25:18.370 --> 00:25:20.260
sólo atiende a la voluntad de los
padres,

434
00:25:20.720 --> 00:25:24.530
probablemente termine generando un
sistema de guetos y etcétera.

435
00:25:25.140 --> 00:25:27.840
Bueno, no voy a entrar ahora en esta
cuestión,

436
00:25:28.260 --> 00:25:32.430
pero sí que me interesaba el ejemplo
para ver cómo,

437
00:25:34.120 --> 00:25:37.780
antes de inventar un algoritmo para
la distribución, tienes que haber

438
00:25:37.780 --> 00:25:40.300
resuelto que equilibrio entre estos
dos

439
00:25:40.800 --> 00:25:42.060
grandes valores y otros muchos,

440
00:25:42.190 --> 00:25:42.990
sobre todo estos dos.

441
00:25:43.760 --> 00:25:45.440
Te pareció como sociedad que es
razonable.

442
00:25:46.420 --> 00:25:49.810
Y una vez que haya resuelto esto, en
la deliberación democrática,

443
00:25:50.120 --> 00:25:53.120
ya puedes poner los instrumentos en
marcha que te parezca.

444
00:25:54.440 --> 00:25:58.430
Y eso se podría llamar una cuestión
política.

445
00:25:58.860 --> 00:26:00.750
Si la cuestión de los objetivos,

446
00:26:00.960 --> 00:26:02.700
de las prioridades de la dirección

447
00:26:03.240 --> 00:26:05.910
es lo que llamamos esto es una cosa
dut Policía. Cuando decimos Esto es

448
00:26:05.910 --> 00:26:09.180
una cuestión política. Lo que estamos
queriendo decir es. Esto no es una

449
00:26:09.180 --> 00:26:10.110
cuestión técnica,

450
00:26:10.800 --> 00:26:14.690
es una cuestión administrativa, sino
que es una cuestión que requiere una

451
00:26:14.690 --> 00:26:17.330
discusión esplizitua y requiere un
acuerdo explícito.

452
00:26:19.620 --> 00:26:22.650
¿Por qué? Las cuestiones políticas
son precisamente aquellas

453
00:26:23.620 --> 00:26:25.360
que no se pueden resolver sin juicios
de valor.

454
00:26:26.900 --> 00:26:28.910
Y en los juicios de valor no estamos
de acuerdo,

455
00:26:29.480 --> 00:26:30.800
pero podemos intentar

456
00:26:31.480 --> 00:26:32.320
conseguir acuerdos.

457
00:26:33.560 --> 00:26:37.640
Pero, desde luego, no pensemos que
unas máquinas nos van a eximir

458
00:26:38.080 --> 00:26:41.170
de hacer ciertos juicios de valor.
Nuestros pueblos no pueden facilitar,

459
00:26:41.460 --> 00:26:43.230
pero no nos van a liberar nunca

460
00:26:43.620 --> 00:26:44.490
de esto.

461
00:26:45.060 --> 00:26:46.020
Y de alguna manera

462
00:26:46.720 --> 00:26:47.770
se podría decir

463
00:26:48.580 --> 00:26:55.330
que la política empieza allá donde
hay que debatir acerca de a qué

464
00:26:55.330 --> 00:26:57.130
valores deben servir estos
instrumentos.

465
00:26:58.300 --> 00:27:01.930
¿Dónde está en lo político en todo
esto. Entonces, este ciclo.

466
00:27:03.220 --> 00:27:07.990
Máquinas humanos, tomando decisiones.
Lo político está allá donde hay que

467
00:27:07.990 --> 00:27:10.270
decidir los valores a los que estas
máquinas deben servir

468
00:27:10.960 --> 00:27:14.680
y donde no hay que discutir eso.
Habrá racionalidad administrativa,

469
00:27:15.010 --> 00:27:18.640
habrá técnicos expertos ETA, pero no
nos olvidemos. ¿Tiene una parte

470
00:27:18.640 --> 00:27:20.170
política de esto? No.

471
00:27:21.500 --> 00:27:22.160
¿Ahora qué?

472
00:27:23.230 --> 00:27:24.540
¿Que se acercan las navidades?

473
00:27:25.360 --> 00:27:28.830
Seguro que nos encontramos en alguna
cena navideña con.

474
00:27:29.880 --> 00:27:31.270
En estos momentos

475
00:27:31.910 --> 00:27:34.520
gran agitación política, como si
nunca,

476
00:27:35.080 --> 00:27:35.620
como si

477
00:27:35.860 --> 00:27:37.920
nos acababan de inventar ciertas
cosas.

478
00:27:38.460 --> 00:27:41.130
Seguro que nos encontramos alguna
cena navideña con el típico cuñao.

479
00:27:41.600 --> 00:27:44.150
¿Qué soluciona un dilema? Diciendo.

480
00:27:44.580 --> 00:27:47.580
Mira, ¿sabes lo que te dio Daniel,
que a mí esto de las derechas y la

481
00:27:47.580 --> 00:27:48.300
izquierda sea ya,

482
00:27:48.740 --> 00:27:52.460
ya me cansa. Yo lo que quiero es que
haya gobiernos que gobiernen bien.

483
00:27:53.720 --> 00:27:54.650
¿Esto lo habéis oído alguna vez?

484
00:27:55.460 --> 00:27:56.300
¿Que gobiernan bien,

485
00:27:57.100 --> 00:27:57.730
como si

486
00:27:58.620 --> 00:28:02.370
bien la palabra bien no tuviera algo
que ver con

487
00:28:02.660 --> 00:28:05.090
la política, y, por tanto, como si
fuera evidente.

488
00:28:05.540 --> 00:28:06.380
Y no tuviéramos,

489
00:28:06.740 --> 00:28:07.490
seguro que aquí ahora,

490
00:28:08.180 --> 00:28:12.110
si lo hiciera una encuesta que
pensáis que es Gobernar bien, os 80

491
00:28:12.110 --> 00:28:13.040
respuestas distintas.

492
00:28:13.640 --> 00:28:17.150
Menos menos mal. Lo grave sería que
digamos la misma,

493
00:28:17.950 --> 00:28:19.270
con esto de que esto de que no.

494
00:28:20.400 --> 00:28:23.220
Lo importante no es que la izquierda,
la derecha, sino que se gobierne. Yo

495
00:28:23.220 --> 00:28:24.690
esto, después de muchos años de
investigación,

496
00:28:25.060 --> 00:28:27.070
lo ha denominado del principio Bertín
Osborne,

497
00:28:28.160 --> 00:28:31.610
porque es porque es la persona que le
ha formulado con mayor precisión

498
00:28:31.610 --> 00:28:34.130
científica en la televisión.

499
00:28:35.000 --> 00:28:35.720
Bueno, estamos

500
00:28:36.200 --> 00:28:37.700
criterios, llevamos criterios,

501
00:28:38.060 --> 00:28:40.960
y, por tanto, ponernos de acuerdo
acerca de.

502
00:28:41.520 --> 00:28:46.590
Y cuáles son los criterios para
determinar qué es una buena decisión.

503
00:28:47.400 --> 00:28:50.340
Por supuesto. Nadie puede querer
malas decisiones, todos queremos

504
00:28:50.340 --> 00:28:50.850
buena adicciones,

505
00:28:51.320 --> 00:28:53.090
pero no tenemos los mismos criterios

506
00:28:54.060 --> 00:28:57.420
acerca de qué es lo bueno. El buen
gobierno.

507
00:28:58.700 --> 00:29:01.160
Bien, y pasó a mi conclusión.

508
00:29:02.320 --> 00:29:03.460
Sí que es.

509
00:29:04.830 --> 00:29:07.400
Esto es, en última instancia, nos

510
00:29:08.360 --> 00:29:12.770
sitúa en lo que se podría llamar la
inevitabilidad de decidir.

511
00:29:13.680 --> 00:29:14.700
Si las máquinas

512
00:29:16.310 --> 00:29:20.120
implementan cosas, miden impactos,
gestionan cantidad de información,

513
00:29:20.560 --> 00:29:26.860
pero aquí no nos van a ahorrar la. El
derecho y la obligación de decidir,

514
00:29:26.860 --> 00:29:29.770
de tomar decisiones, decisiones
arriesgadas, decisiones

515
00:29:30.140 --> 00:29:32.690
en medio de controversias muy
intensas y muy fuertes.

516
00:29:33.840 --> 00:29:34.350
Y aquí

517
00:29:34.960 --> 00:29:38.380
creo que es muy importante. Y lo
decía al principio, lo mencionaba.

518
00:29:39.100 --> 00:29:40.030
Distinguir bien

519
00:29:40.720 --> 00:29:42.340
para qué tipo de problemas,

520
00:29:44.000 --> 00:29:45.980
una máquinas más apta que nosotros,

521
00:29:46.100 --> 00:29:49.280
o para qué partes de los problemas,
las máquinas lo hace mejor que

522
00:29:49.280 --> 00:29:51.380
nosotros y para que otras partes.

523
00:29:52.250 --> 00:29:54.860
Es inevitable que nosotros asumamos
el.

524
00:29:55.300 --> 00:29:57.640
El. La, la decisión, no

525
00:29:58.960 --> 00:29:59.470
en.

526
00:30:00.460 --> 00:30:02.920
Pienso que sí pueden servir como
criterio.

527
00:30:03.700 --> 00:30:06.520
Que las máquinas deciden mejor que
nosotros. ¿Cuándo

528
00:30:07.380 --> 00:30:08.490
hay muchos datos?

529
00:30:09.960 --> 00:30:11.490
Las soluciones son binarias,

530
00:30:12.470 --> 00:30:14.540
no hay gran incertidumbre y
ambigüedad.

531
00:30:14.860 --> 00:30:17.140
Si tú tienes ese panorama.

532
00:30:19.420 --> 00:30:20.230
Fíjate, la máquina,

533
00:30:21.420 --> 00:30:24.150
o para esa parte del problema o para
todo el problema,

534
00:30:24.980 --> 00:30:26.270
si lo que tienes es lo contrario.

535
00:30:26.520 --> 00:30:28.320
Si lo que tienes, pocos datos,

536
00:30:29.540 --> 00:30:32.840
las opciones son, normalmente no son
binaria, sino que hay 17.

537
00:30:33.870 --> 00:30:34.950
Hay una gran ambigüedad,

538
00:30:35.380 --> 00:30:35.830
eh

539
00:30:36.060 --> 00:30:37.080
y hay mucha incertidumbre.

540
00:30:37.820 --> 00:30:38.960
Pues lo siento mucho.

541
00:30:39.500 --> 00:30:40.790
No te va a tocar otra que

542
00:30:41.290 --> 00:30:44.100
apechugar con. Con la situación y
decidir por ti mismo.

543
00:30:44.440 --> 00:30:45.400
Esto es el llamado alguna vez.

544
00:30:46.660 --> 00:30:49.750
Los problemas salvajes o los
problemas mal estructurado. A veces

545
00:30:50.240 --> 00:30:54.740
uno, uno llega a la mesa del despacho
del político, llegar a su mesa de

546
00:30:54.740 --> 00:30:55.160
despacho,

547
00:30:55.720 --> 00:30:57.400
y si podía poner dos,

548
00:30:58.290 --> 00:31:03.410
dos dosieres, dos montones de
consideres, en uno están los

549
00:31:03.410 --> 00:31:06.350
problemas bien estructurados, en
otros están mal estructurados.

550
00:31:06.660 --> 00:31:09.300
No están los problemas normales ¿y no
te están los poemas salvajes,

551
00:31:10.360 --> 00:31:13.270
que te entiendo yo por un problema
salvaje o mal estructurado, un

552
00:31:13.270 --> 00:31:13.660
problema

553
00:31:14.890 --> 00:31:15.840
en el King.

554
00:31:16.200 --> 00:31:18.780
Comenzamos no sabiendo muy bien cuál
es el problema.

555
00:31:19.680 --> 00:31:23.130
El suceso en la vida política. Eso
hay muchas veces que

556
00:31:24.360 --> 00:31:28.350
los poemas desafiantes, amistoso
entre nosotros,

557
00:31:29.240 --> 00:31:30.440
que lo resuelva cualquier

558
00:31:31.800 --> 00:31:36.180
funcionario. Eman lehen, ni
despectivo ni nada. Yo también he

559
00:31:36.180 --> 00:31:37.350
sido funcionario y muchos años

560
00:31:37.900 --> 00:31:38.630
ya lo dejé.

561
00:31:39.680 --> 00:31:39.980
Bueno,

562
00:31:40.500 --> 00:31:41.040
eh.

563
00:31:41.670 --> 00:31:42.860
Alguien podría decir, por ejemplo,

564
00:31:43.420 --> 00:31:46.810
recordáis que los humanos fuimos
derrotados

565
00:31:47.540 --> 00:31:48.530
al ajedrez

566
00:31:49.160 --> 00:31:50.690
hace unos años en el acuerdo,

567
00:31:51.570 --> 00:31:54.770
cuando fue exactamente, incluso luego
algo, o que es un juego más

568
00:31:54.770 --> 00:31:56.270
complicado todavía no, y entonces
alguien,

569
00:31:56.860 --> 00:32:00.490
alguien decía, Al hilo de todo esto,
es. Todas las máquinas van a llegar a

570
00:32:00.490 --> 00:32:01.660
ser inteligentísima y tal.

571
00:32:02.300 --> 00:32:03.710
A mí siempre me ha parecido una
tontería.

572
00:32:04.100 --> 00:32:07.160
¿Por qué? Porque el ajedrez y algo
deportes.

573
00:32:07.620 --> 00:32:09.540
Pero es que no tengo ni idea, pero
sólo es esto.

574
00:32:11.710 --> 00:32:13.150
En el fondo no son tan complejos,

575
00:32:13.800 --> 00:32:14.730
porque él,

576
00:32:15.320 --> 00:32:18.110
grado de respuestas posibles está muy
acotado.

577
00:32:18.400 --> 00:32:18.670
No

578
00:32:20.130 --> 00:32:20.880
tú no puedes

579
00:32:21.560 --> 00:32:22.700
tirarle una ficha

580
00:32:22.900 --> 00:32:24.160
al al adversario.

581
00:32:24.820 --> 00:32:26.710
Osea eso no está contemplado entre
las reglas,

582
00:32:27.060 --> 00:32:28.950
pero en política sí. Osea en
política,

583
00:32:30.180 --> 00:32:31.260
en la vida, en la vida,

584
00:32:31.800 --> 00:32:35.700
en los escenarios no están acotados,
están abiertos. Se puede hacer

585
00:32:35.700 --> 00:32:36.270
cualquier cosa,

586
00:32:36.560 --> 00:32:38.330
se puede hacer cosas irracionales. De
hecho,

587
00:32:39.020 --> 00:32:39.770
una de las

588
00:32:40.660 --> 00:32:41.560
estrategias,

589
00:32:43.380 --> 00:32:44.070
qué

590
00:32:45.220 --> 00:32:46.810
que utilice yo para

591
00:32:47.520 --> 00:32:50.010
cuando ingresé en la otra familia
política,

592
00:32:51.260 --> 00:32:54.230
para parecer que yo jugaba bien al
mousse, es jugar muy mal

593
00:32:55.500 --> 00:32:58.080
a decir una cosa irracional,
situación, una cosa muy racional.

594
00:32:58.410 --> 00:33:01.260
Dejas tan sorprendida a la gente que
ganas la primera partida de mus.

595
00:33:01.500 --> 00:33:04.350
Yo gané la primera partida de mus,
prestigio, que ha ido a un nivel

596
00:33:04.580 --> 00:33:06.620
decente y ya no quise jugar nunca
más.

597
00:33:07.060 --> 00:33:10.450
Es decir, a veces la máquina no
entiende la irracionalidad. No

598
00:33:10.450 --> 00:33:11.350
entiende la irracionalidad,

599
00:33:11.800 --> 00:33:15.640
pero es que la vida, la vida humana
en general, y había política, está

600
00:33:15.640 --> 00:33:16.660
llena de irracionalidad.

601
00:33:17.820 --> 00:33:21.240
Y muchas veces lo difícil, por
ejemplo, pienso del juego político.

602
00:33:21.720 --> 00:33:22.770
Lo hicieron por políticos.

603
00:33:23.460 --> 00:33:23.790
Qué

604
00:33:24.780 --> 00:33:27.360
salvo excepciones. No quiero poner
ningún caso.

605
00:33:28.630 --> 00:33:32.170
Los casos lo estropean todo, pero
esas oposiciones. La gente no hace

606
00:33:32.170 --> 00:33:33.160
cosas irracionales.

607
00:33:33.630 --> 00:33:37.530
Osea. La gente hace cosas que le
benefician. Principio político

608
00:33:37.530 --> 00:33:40.710
fundamental. Todo el mundo persigue
su propio interés,

609
00:33:41.440 --> 00:33:44.470
excepto este partido. No pondré
ejemplos,

610
00:33:44.980 --> 00:33:47.980
que actúa estúpidamente contra su
propio interés ya, pero es que eso

611
00:33:47.980 --> 00:33:48.310
existe.

612
00:33:49.060 --> 00:33:52.360
Osea, eso hay que tenerlo en cuenta,
que 50 acciones y racionales en el

613
00:33:52.360 --> 00:33:52.570
juego.

614
00:33:53.660 --> 00:33:53.750
Sí.

615
00:33:55.650 --> 00:33:55.920
Bueno.

616
00:33:56.940 --> 00:33:57.270
Bai.

617
00:33:58.460 --> 00:33:59.060
Ay.

618
00:33:59.920 --> 00:34:03.250
No hay tiempo. Y va a poner dos
ejemplos. Voy a poner uno nada más.

619
00:34:04.340 --> 00:34:06.020
¿Habéis visto una película

620
00:34:06.700 --> 00:34:09.690
reciente que se llama Una casa llena
de dinamita.

621
00:34:11.480 --> 00:34:12.020
¿Quién ha visto?

622
00:34:14.139 --> 00:34:15.460
Qué desastre? Bueno, bien.

623
00:34:16.520 --> 00:34:20.210
No puedo contar el final ni nada. No,
no, no. Y bueno, bueno, os recomiendo

624
00:34:20.210 --> 00:34:22.340
que veáis la película. Es una
película fantástica

625
00:34:22.820 --> 00:34:27.050
y hoy lo que puedo contar es. Hay un
ataque nuclear a Estados Unidos,

626
00:34:27.679 --> 00:34:29.150
fallan todos los sistemas

627
00:34:30.040 --> 00:34:33.760
y en un momento determinado, el
presidente, que es negro, por cierto,

628
00:34:34.520 --> 00:34:35.600
va en un helicóptero,

629
00:34:36.020 --> 00:34:36.860
no os diría donde.

630
00:34:38.650 --> 00:34:41.620
Y junto a él va uno,

631
00:34:41.920 --> 00:34:42.960
al final de la marina,

632
00:34:43.300 --> 00:34:44.020
un chaval

633
00:34:45.440 --> 00:34:52.130
con su traje blanco, las medallas y
tal, que lleva una carpeta de donde,

634
00:34:52.639 --> 00:34:56.960
con pocas hojas de plástico, donde
están los inscritos los escenarios

635
00:34:56.960 --> 00:34:57.620
posibles.

636
00:34:58.390 --> 00:34:59.850
Esto es, le cuenta al presidente.

637
00:35:00.400 --> 00:35:05.140
Presidente. Hay cuatro posibilidades.
Si esto es un ataque de Rusia, en

638
00:35:05.140 --> 00:35:07.750
todo lo que hay que hacer es tal, si
esto es un ataque de Nosequé,

639
00:35:08.050 --> 00:35:08.980
entonces pasamos al siguiente.

640
00:35:09.300 --> 00:35:13.140
Tiene gracia, porque además el
plástico es lo que está todo lleno,

641
00:35:13.470 --> 00:35:17.040
dibujitos de postre, un Sporting que
tanto le gustan a Mikel, está todo

642
00:35:17.040 --> 00:35:17.880
lleno de estas cosas.

643
00:35:18.340 --> 00:35:24.670
¿Y dónde. Y entonces el presidente le
dice. Oiga, le viene a decir mi

644
00:35:24.670 --> 00:35:25.220
traducción.

645
00:35:25.860 --> 00:35:28.380
¿Qué le voy a decir? Vamos a ver, yo
estoy dando una decisión

646
00:35:29.080 --> 00:35:31.540
y que no tiene que ver con estos
protocolos. Estos protocolos son los

647
00:35:31.540 --> 00:35:33.520
protocolos que ha diseñado Hotsak,
etc.

648
00:35:34.370 --> 00:35:35.990
Yo estoy ante una decisión que es

649
00:35:36.300 --> 00:35:39.810
paso a la historia como un imbécil o
como un asesino.

650
00:35:40.640 --> 00:35:44.990
Osea, que qué hago? Disparó el
arsenal nuclear que tengo, le puedo

651
00:35:44.990 --> 00:35:45.890
dar al botón y ya está.

652
00:35:46.580 --> 00:35:49.820
Pero claro, eso supone entrar en un
horizonte terrible.

653
00:35:50.440 --> 00:35:53.950
Pero si no hago nada y entonces se ve
la angustia del que toma la decisión.

654
00:35:54.280 --> 00:35:54.610
Bueno,

655
00:35:55.100 --> 00:35:57.830
no quiero dramatizar las cosas en
exceso, porque la Diputación foral,

656
00:35:57.830 --> 00:35:58.970
además, no tiene armas nucleares,

657
00:35:59.340 --> 00:35:59.670
pero

658
00:36:00.400 --> 00:36:06.250
que se sepa, que se sepa. Pero. Pero
hay partes de los problemas o

659
00:36:06.250 --> 00:36:09.130
problemas que tienen, que tienen esta
naturaleza, que es bueno.

660
00:36:10.040 --> 00:36:14.150
Non tengo que olfatear por dónde van
las cosas y parte en la vida que

661
00:36:14.150 --> 00:36:17.420
también tiene de nuestras decisiones,
que también tiene este carácter.

662
00:36:17.930 --> 00:36:19.190
Bueno, ver la película, que es

663
00:36:19.600 --> 00:36:21.520
mejor que todo lo que ya lo he podido
decir.

664
00:36:21.620 --> 00:36:22.610
Eskerrik asko zuen Harengan.

665
00:36:34.760 --> 00:36:35.090
Bueno,

666
00:36:35.880 --> 00:36:39.180
gracias, Daniel, por la presentación
tan sugerente. Queremos la película,

667
00:36:39.700 --> 00:36:42.520
porque nos has puesto el Gusanillo

668
00:36:43.860 --> 00:36:44.460
en marcha.

669
00:36:46.180 --> 00:36:49.810
Daniel habló sobre todo de aspecto,
la dimensión más política. Siempre

670
00:36:49.810 --> 00:36:54.910
tenemos una broma, que él se dedica a
la filosofía política y no le gusta

671
00:36:54.910 --> 00:36:59.200
nada. La ética y la lógica, que es lo
que me gusta a mí. Entonces, hacemos

672
00:37:00.080 --> 00:37:02.500
un buen complemento. Llegó el galés
de ética de la inteligencia

673
00:37:02.500 --> 00:37:06.130
artificial como una especie de
estadio intermedio, para luego

674
00:37:07.060 --> 00:37:10.180
dar la palabra a Gorka Blanco para
que nos hable un poco de. De la

675
00:37:10.270 --> 00:37:14.590
implementación de los aspectos éticos
de la inteligencia artificial aquí,

676
00:37:14.790 --> 00:37:18.280
en la Diputación Foral de Guipúzcoa,
al hilo de lo que ciudad, Daniel, no

677
00:37:18.280 --> 00:37:22.420
me resisto a decir que esa situación
que él describe es un poco el mundo

678
00:37:22.420 --> 00:37:25.990
en el que vivimos, en filosofía y la
ciencia se habla de un contexto de

679
00:37:25.990 --> 00:37:28.750
ciencia, pues normal, que se
caracteriza, no es la ciencia

680
00:37:29.530 --> 00:37:32.170
standard en la que estábamos
acostumbrados, sino que es el

681
00:37:32.170 --> 00:37:35.620
contexto en el que vivimos con una
incertidumbre enorme sobre los

682
00:37:35.620 --> 00:37:40.420
hechos. Hay mucha playa sobre los
hechos, hay conflicto de valores en

683
00:37:40.420 --> 00:37:44.110
todas las situaciones. Por otro lado,
tenemos que afrontar grandes

684
00:37:44.110 --> 00:37:49.780
desafíos, la pandemia, la emergencia
climática, la crisis democrática, y

685
00:37:49.780 --> 00:37:52.270
luego hay que tomar decisiones
urgentes. Entonces, ese contexto es

686
00:37:52.270 --> 00:37:56.500
un contexto especialmente complejo y
luego la inteligencia artificial nos

687
00:37:56.500 --> 00:37:59.950
puede ayudar, pero yo creo que no nos
va dar la respuesta en ese, en ese

688
00:37:59.950 --> 00:38:00.760
contexto tan,

689
00:38:01.020 --> 00:38:02.160
tan, tan complejo.

690
00:38:02.560 --> 00:38:03.250
Pero bueno, yo

691
00:38:03.860 --> 00:38:05.030
les quería hablar de.

692
00:38:05.460 --> 00:38:09.270
De la ética la inteligencia
artificial, y lo voy a articular en

693
00:38:09.270 --> 00:38:10.140
tres preguntas.

694
00:38:10.860 --> 00:38:15.150
¿Por qué es importante la ética en la
inteligencia artificial para que es

695
00:38:15.150 --> 00:38:20.250
importante? Y luego el como Ken
apuntaré, pero del como hablara más

696
00:38:20.640 --> 00:38:23.040
Gorka Blanco luego en esta
exposición.

697
00:38:23.460 --> 00:38:27.120
Entonces, vamos a empezar por porque
es importante la ética en la

698
00:38:27.120 --> 00:38:28.200
inteligencia artificial.

699
00:38:29.560 --> 00:38:32.290
Lo más obvio es decir que la
inteligencia artificial no es algo

700
00:38:32.290 --> 00:38:35.650
del futuro, es algo presente, y que
éstas forman parte de nuestras vidas.

701
00:38:36.040 --> 00:38:39.700
Todos y todas tenemos seguramente un
teléfono móvil que está equipado con

702
00:38:39.700 --> 00:38:44.290
un montón de programas y dispositivos
que ya se manejan con inteligencia

703
00:38:44.290 --> 00:38:49.600
artificial. En las administraciones
públicas cada vez hay más programas,

704
00:38:49.600 --> 00:38:52.930
servicios y sistemas que se basan
también en programación e

705
00:38:52.930 --> 00:38:58.570
inteligencia artificial, en el ámbito
del transporte, de la industria, del

706
00:38:58.570 --> 00:39:02.380
comercio, de la defensa, por
supuesto. Es decir, la inteligencia

707
00:39:02.380 --> 00:39:04.300
artificial está ya presente en
nuestras vidas.

708
00:39:04.500 --> 00:39:08.670
Por lo tanto, no es algo del futuro.
Y, desde luego, la Administración es

709
00:39:08.670 --> 00:39:12.420
una herramienta que para determinadas
tareas puede ofrecer muchísima

710
00:39:12.420 --> 00:39:14.070
rapidez, eficacia.

711
00:39:15.510 --> 00:39:18.900
Puede favorecer también lo que hemos
comentado alguna vez también aquí en

712
00:39:18.900 --> 00:39:22.170
la diputación, una economía circular
del dato, es decir, poder aprovechar

713
00:39:22.410 --> 00:39:25.980
todo el potencial que tienen los
datos para generar políticas públicas

714
00:39:26.130 --> 00:39:31.110
más precisas, más, más atinadas, y
que pueden ofrecer mejores resultados

715
00:39:31.110 --> 00:39:31.980
para la ciudadanía.

716
00:39:32.440 --> 00:39:33.070
Por lo tanto,

717
00:39:34.090 --> 00:39:36.310
la inteligencia artificial está en
todas partes,

718
00:39:37.100 --> 00:39:38.420
pero a la vez también

719
00:39:38.860 --> 00:39:42.130
hay que decir que no es algo separado
de nosotros. Muchas veces hablamos de

720
00:39:42.130 --> 00:39:44.950
la inteligencia artificial como es
algo que estuviera ahí, y las

721
00:39:44.950 --> 00:39:47.980
personas estuviéramos a otro lado.
Hay que volver a decir que la

722
00:39:47.980 --> 00:39:51.790
inteligencia artificial forma parte
con nosotros y nos constituye como

723
00:39:51.790 --> 00:39:55.810
sistemas socio, técnicos. En realidad
no es algo separado, y nosotros lo

724
00:39:55.810 --> 00:40:00.730
que hacemos es generar relaciones
humano máquina y, por lo tanto,

725
00:40:00.730 --> 00:40:04.630
generar conocimiento social,
inteligencia social y colectiva. No

726
00:40:04.630 --> 00:40:07.570
es algo que está separado. La
inteligencia artificial fue una parte

727
00:40:07.870 --> 00:40:08.410
de.

728
00:40:09.580 --> 00:40:13.240
En la interacción con las personas
generan una serie de resultados y de

729
00:40:13.330 --> 00:40:14.320
y de productos,

730
00:40:14.680 --> 00:40:18.820
y, por lo tanto, no es algo que esté
separado de nosotros. Y, dicho esto,

731
00:40:19.260 --> 00:40:23.250
comentaba también Daniel, hay dos
premisas que son muy importantes a

732
00:40:23.250 --> 00:40:27.270
tener en cuenta con respecto a esa
relación que mantenemos con la. Con

733
00:40:27.270 --> 00:40:30.840
los sistemas, los programas, los
dispositivos basados en inteligencia

734
00:40:30.840 --> 00:40:34.080
artificial. Una es que no son
neutrales.

735
00:40:34.440 --> 00:40:35.580
Es decir, no hay,

736
00:40:37.050 --> 00:40:40.530
no hay, no hay una neutralidad de los
dispositivos de la tecnología. Esto

737
00:40:40.530 --> 00:40:43.830
es algo que se ha discutido siempre,
se ha conocido desde la filosofía de

738
00:40:43.830 --> 00:40:48.510
la ciencia, pero es que los sistemas
tecnológicos cualquiera, pero más

739
00:40:48.510 --> 00:40:51.900
estos que son tan sofisticados y que
están tan imbricados en las

740
00:40:51.900 --> 00:40:56.700
relaciones de las personas con estos
sistemas, generan formas de poder y

741
00:40:56.700 --> 00:41:00.990
autoridad y transforman no sólo los
objetos, se notar, forman también

742
00:41:01.850 --> 00:41:03.210
las costumbres,

743
00:41:03.380 --> 00:41:07.850
las relaciones, los hábitos, los
hábitos y las costumbres laborales,

744
00:41:07.860 --> 00:41:08.750
educativas,

745
00:41:09.020 --> 00:41:10.160
afectivas también,

746
00:41:10.450 --> 00:41:11.970
etcétera. Por lo tanto,

747
00:41:12.280 --> 00:41:16.060
hay que decir que son sistemas que no
son neutrales, y tenemos que

748
00:41:16.060 --> 00:41:20.530
preguntarnos por ellos y decidir
colectivamente como queremos

749
00:41:20.530 --> 00:41:21.220
diseñarlos.

750
00:41:21.520 --> 00:41:23.140
Esta es una de las características,

751
00:41:23.380 --> 00:41:25.600
y la otra característica muy
importante es que

752
00:41:25.920 --> 00:41:29.370
generamos una relación muy estrecha
con los mismos, cada vez más

753
00:41:29.370 --> 00:41:33.330
estrecha. Somos más interdependientes
de esos sistemas tecnológicos,

754
00:41:33.640 --> 00:41:37.360
y en esa interdependencia se abre una
posibilidad de vulnerabilidad, de

755
00:41:37.360 --> 00:41:39.400
padecer un daño. En esa relación

756
00:41:39.680 --> 00:41:43.040
los antropólogos de la tecnología
hablan de una materialidad

757
00:41:43.040 --> 00:41:46.430
relacional. Es decir, constituimos
entornos en los cuales hay

758
00:41:46.430 --> 00:41:49.520
dispositivos, hay máquinas, hay
humanos, y esos dispositivos

759
00:41:49.520 --> 00:41:53.240
transforman las relaciones, pero en
esas relaciones tenemos la

760
00:41:53.240 --> 00:41:57.530
posibilidad de ser dañados. ¿Por qué?
Porque la relación también con ellos

761
00:41:57.590 --> 00:41:59.750
es muy asimétrica, porque quieren,

762
00:42:00.260 --> 00:42:01.040
diseña,

763
00:42:01.360 --> 00:42:05.230
Kontrola, organiza este tipo de
dispositivos, no suele ser la

764
00:42:05.230 --> 00:42:08.680
ciudadanía. No tenemos mucho margen
de maniobra. Antes hablaba Daniel

765
00:42:08.680 --> 00:42:12.160
precisamente de las grandes
corporaciones tecnológicas que tienen

766
00:42:12.310 --> 00:42:17.350
la autoridad para. Para decidir, por
ejemplo, con respecto a quién está

767
00:42:17.350 --> 00:42:20.980
ahí, que no están las plataformas, o,
como sé cómo se accede a las mismas o

768
00:42:20.980 --> 00:42:23.290
cómo se diseña un determinado

769
00:42:23.620 --> 00:42:26.080
indeterminado dispositivo para un
servicio público.

770
00:42:26.420 --> 00:42:29.720
Es decir, tenemos una relación muy
asimétrica y con muy poco control con

771
00:42:29.720 --> 00:42:32.060
respecto a esas tecnologías, a pesar

772
00:42:32.200 --> 00:42:35.980
de qué estamos estrechamente ligados
a las mismas, las controlan los

773
00:42:35.980 --> 00:42:38.680
estados, las junto a la sobre todas
las grandes corporaciones,

774
00:42:39.100 --> 00:42:40.390
y los ciudadanos estamos

775
00:42:40.720 --> 00:42:43.330
un tanto inermes ante ante ellas.

776
00:42:43.700 --> 00:42:45.440
Por lo tanto, ¿el por qué?

777
00:42:46.020 --> 00:42:49.890
Es básicamente por esto? Porque son
tecnologías que no son neutrales y

778
00:42:49.890 --> 00:42:52.620
porque nuestra relación tan estrecha
con ellas nos abre

779
00:42:53.000 --> 00:42:57.200
precisamente a esa posibilidad de
vulnerabilidad. Y

780
00:42:59.180 --> 00:43:01.070
y dicho esto, ¿por qué

781
00:43:01.600 --> 00:43:04.990
habría que preguntarse entonces, ¿por
qué? ¿Para qué es importante la ética

782
00:43:05.380 --> 00:43:09.040
entre la Inteligencia Artificial y el
para que también se ha comentado

783
00:43:09.040 --> 00:43:13.600
antes un poco? Es fundamentalmente
para dos. Dos objetivos podríamos

784
00:43:13.600 --> 00:43:13.930
decir.

785
00:43:14.260 --> 00:43:14.950
El primero

786
00:43:15.380 --> 00:43:16.430
es que

787
00:43:17.340 --> 00:43:21.960
la tecnología no nos tiene que dañar.
La relación de la interacción de los

788
00:43:21.960 --> 00:43:25.920
humanos con esta tecnología no
deberíamos estar abiertos al daño.

789
00:43:26.340 --> 00:43:30.060
Por lo tanto, es muy importante la
prevención del daño no sólo por

790
00:43:30.060 --> 00:43:33.450
acción, sino también por omisión, es
decir, por falta de cuidado y de

791
00:43:33.450 --> 00:43:34.830
prevención y de precaución.

792
00:43:35.320 --> 00:43:40.120
Y por eso es muy importante tener en
cuenta elementos, por ejemplo, de

793
00:43:40.120 --> 00:43:43.780
negligencia o de falta de cuidado.
Cuando se desarrollan, simplemente se

794
00:43:43.780 --> 00:43:44.290
despliegan

795
00:43:44.660 --> 00:43:47.840
dispositivos de inteligencia
artificial en determinados sectores,

796
00:43:47.840 --> 00:43:48.650
en determinadas

797
00:43:49.140 --> 00:43:51.390
áreas, en determinados ámbitos.

798
00:43:52.150 --> 00:43:54.340
Y además ese daño no es un daño

799
00:43:54.760 --> 00:43:58.060
que todos compartíamos por igual,
porque además ese daño se puede

800
00:43:58.070 --> 00:44:01.960
superponer a otras vulnerabilidades
que también padecen algunas personas,

801
00:44:01.960 --> 00:44:04.870
de algunos colectivos. Pensemos, por
ejemplo, situaciones de

802
00:44:04.870 --> 00:44:06.400
vulnerabilidad por razón de edad,

803
00:44:06.600 --> 00:44:09.150
y hablamos mucho de los menores a su
relación con las tecnologías

804
00:44:09.150 --> 00:44:11.340
digitales. Hablamos también de las
personas

805
00:44:12.100 --> 00:44:15.340
mayores igual con dificultades
cognitivas, pero también podemos

806
00:44:15.340 --> 00:44:15.670
hablar

807
00:44:17.910 --> 00:44:21.050
algún tipo de vulnerabilidad por
razón de género, por razón de origen,

808
00:44:21.050 --> 00:44:21.830
los migrantes.

809
00:44:22.100 --> 00:44:25.640
Se discute mucho. Haré. Luego pondré
un ejemplo de un sistema que se

810
00:44:25.640 --> 00:44:30.080
utiliza en Canadá para obtener la
condición de asilado vacilada,

811
00:44:30.490 --> 00:44:33.680
y es un sistema basado en
inteligencia artificial, pero también

812
00:44:33.680 --> 00:44:37.280
por estatus laboral, los trabajadores
precarios. Y pensemos también todos

813
00:44:37.280 --> 00:44:39.500
los sistemas de inteligencia
artificial que se implementan en

814
00:44:39.680 --> 00:44:41.180
muchas empresas. Tenemos

815
00:44:41.460 --> 00:44:45.150
la idea de Amazon y estas grandes
empresas, que tienen todo un sistema

816
00:44:45.150 --> 00:44:49.200
implementado para controlar a los
trabajadores también por enfermedad,

817
00:44:49.230 --> 00:44:51.900
por diversidad funcional o
discapacidad. Es decir,

818
00:44:52.200 --> 00:44:54.840
la ética de la Inteligencia
Artificial tiene que tener mucho

819
00:44:54.840 --> 00:44:56.580
cuidado con la prevención del daño,

820
00:44:56.960 --> 00:45:00.020
y además teniendo en cuenta este
enfoque interseccional, es decir,

821
00:45:00.200 --> 00:45:03.140
porque se pueden superponer
diferentes vulnerabilidades

822
00:45:03.540 --> 00:45:03.870
y

823
00:45:04.540 --> 00:45:08.050
digamos que la vulnerabilidad que
tenemos con respecto a estos

824
00:45:08.050 --> 00:45:11.890
dispositivos puede todavía agravar,
aumentar esas otras vulnerabilidades

825
00:45:11.890 --> 00:45:13.120
a las que me he referido.

826
00:45:13.720 --> 00:45:14.590
Y esta idea, además

827
00:45:14.920 --> 00:45:19.420
de prevenir el daño, tiene que ver
con ese al que se refería Mikel

828
00:45:19.420 --> 00:45:23.770
Pagola antes, que está recogido en el
Código de la Diputación Foral de

829
00:45:23.770 --> 00:45:26.740
Guipúzcoa, sobre los datos en la
Inteligencia artificial, que es el

830
00:45:26.740 --> 00:45:28.210
principio de no más eficiencia

831
00:45:28.520 --> 00:45:29.090
y que, además

832
00:45:29.400 --> 00:45:33.150
de esta idea general de no dañar,
tiene que ver

833
00:45:33.520 --> 00:45:37.540
con algunos valores importantes, como
pueden ser la seguridad y la

834
00:45:37.540 --> 00:45:42.490
ciberseguridad. Hoy creo que también
a esta hora, en otro sitio de aquí,

835
00:45:42.490 --> 00:45:45.670
de Donosti, había una charla
precisamente sobre la ciberseguridad.

836
00:45:46.030 --> 00:45:49.090
Ciberseguridad tienen que entenderse
también como un valor ético, porque

837
00:45:49.240 --> 00:45:52.570
tiene que ver con esa protección
frente al daño que podemos sufrir en

838
00:45:52.570 --> 00:45:55.210
nuestra relación con los dispositivos
digitales,

839
00:45:55.560 --> 00:45:59.310
pero también tiene que ver con la
protección del consumidor. Tiene que

840
00:45:59.310 --> 00:46:02.100
ver incluso con esta protección en la
relación con la Administración.

841
00:46:02.340 --> 00:46:05.490
Y por eso elementos de buena
gobernanza, como la transparencia, la

842
00:46:05.490 --> 00:46:08.850
rendición de cuentas. Con respecto a
los algoritmos, el hacer publicidad

843
00:46:08.850 --> 00:46:13.050
de los mismos es muy importante,
desde el punto de vista del no daño,

844
00:46:13.390 --> 00:46:14.580
la prevención del daño.

845
00:46:15.080 --> 00:46:19.250
Por no hablar de la cuestión de los
sesgos, que seguramente conocen

846
00:46:19.250 --> 00:46:23.240
ustedes y que están muy ampliamente
documentado con muchos de los

847
00:46:23.240 --> 00:46:27.500
sistemas. Incorporan sesgos, tanto
por los sesgos de los datos como por

848
00:46:27.500 --> 00:46:29.090
los sesgos de los propios procesos,

849
00:46:29.400 --> 00:46:33.090
y que, por lo tanto, conducen a lo
que se conoce como injustizia

850
00:46:33.120 --> 00:46:37.020
algorítmica. Es decir, discriminación
en el uso precisamente de estos

851
00:46:37.020 --> 00:46:41.760
dispositivos para determinados
individuos o personas o colectivos.

852
00:46:42.420 --> 00:46:47.940
También tiene que ver no daño, con la
pérdida de la autonomía y la

853
00:46:48.810 --> 00:46:53.100
manipulación que pueden que podemos
padecer en esta interacción

854
00:46:53.100 --> 00:46:55.980
precisamente con los dispositivos
digitales.

855
00:46:56.540 --> 00:47:00.410
Por lo tanto, la inteligencia
artificial, para que la ética de la

856
00:47:00.410 --> 00:47:02.720
intuición y artificial, un parque
fundamentales para prevenir

857
00:47:02.720 --> 00:47:03.500
precisamente

858
00:47:03.890 --> 00:47:09.830
el daño y para que la relación de los
humanos con estos dispositivos sea lo

859
00:47:09.830 --> 00:47:11.600
más segura, la más segura posible.

860
00:47:12.240 --> 00:47:16.560
Pero este es el único objetivo de la
ética de la inteligencia artificial?

861
00:47:17.100 --> 00:47:20.280
Pues es un objetivo muy importante,
pero no es el único, porque

862
00:47:20.880 --> 00:47:23.820
también es muy importante para
generar confianza.

863
00:47:24.420 --> 00:47:28.380
Y antes Daniel hablaba de que vimos
en situaciones muy complejas en un

864
00:47:28.380 --> 00:47:29.310
mundo muy complejo,

865
00:47:29.720 --> 00:47:32.360
y para eso necesitamos herramientas
complejas, como puede ser la

866
00:47:32.360 --> 00:47:35.600
inteligencia artificial, pero para
enfrentar la complejidad y poder

867
00:47:35.600 --> 00:47:37.790
absorberlo necesitamos confianza.

868
00:47:38.220 --> 00:47:39.030
Y confianza

869
00:47:39.500 --> 00:47:40.880
tiene que ver con

870
00:47:41.300 --> 00:47:47.510
alinear lo que son los desarrollos,
pues los dispositivos, los, los

871
00:47:47.510 --> 00:47:49.880
programas, todos los

872
00:47:51.020 --> 00:47:53.930
los procesos de inteligencia
artificial, con los valores, las

873
00:47:53.930 --> 00:47:55.790
preferencias y las necesidades
sociales.

874
00:47:56.300 --> 00:47:59.600
Que se produzca esa alineación que
tiene que ver con lo que en el marco

875
00:47:59.600 --> 00:48:02.840
de la Unión Europea se conoce como la
investigación y la innovación,

876
00:48:02.840 --> 00:48:03.620
responsables.

877
00:48:05.430 --> 00:48:08.820
estos desarrollos con esos valores
sociales compartidos, con esas

878
00:48:08.820 --> 00:48:12.180
preferencias, con esas necesidades,
es fundamental para generar

879
00:48:12.180 --> 00:48:16.620
confianza. Y la confianza es un
elemento indispensable para que como

880
00:48:16.620 --> 00:48:18.780
ciudadanos, como personas, como
usuarios,

881
00:48:19.860 --> 00:48:24.930
aceptemos ese tipo de procesos de
dispositivos y no nos apropiamos. Es

882
00:48:24.930 --> 00:48:29.460
decir, sean realmente efectivos.
Porque realmente la desconfianza es

883
00:48:29.460 --> 00:48:32.880
letal para las instituciones, para
las organizaciones, pero es letal

884
00:48:32.880 --> 00:48:37.290
también para la tecnología cuando se
desarrolla sin ese nivel de confianza

885
00:48:37.290 --> 00:48:40.050
y entonces, pues, la rechazamos.
Directamente

886
00:48:40.480 --> 00:48:43.270
podemos desarrollar el mejor

887
00:48:43.540 --> 00:48:48.310
dispositivo, la mejor tecnología
para, por ejemplo, el cuidado en los

888
00:48:48.310 --> 00:48:53.160
domicilios, que si no conseguimos que
las personas a las que va dirigida a

889
00:48:53.530 --> 00:48:58.060
ese desarrollo tecnológico confíen en
el mismo, pues no van a ser usadas,

890
00:48:58.240 --> 00:49:01.780
no van a ser aceptadas y no mansen
apropiadas, y, por lo tanto, no van a

891
00:49:01.780 --> 00:49:02.860
cumplir su función.

892
00:49:03.160 --> 00:49:03.790
Es decir,

893
00:49:04.100 --> 00:49:07.670
la ética es muy importante para
garantizar ese alineamiento de

894
00:49:07.670 --> 00:49:12.500
valores y que, por lo tanto, genere
confianza en los usuarios y en los

895
00:49:12.500 --> 00:49:15.830
ciudadanos, en su propio, en su
propio desarrollo. Por eso es muy

896
00:49:15.830 --> 00:49:20.240
importante, como la ética como un
elemento de confianza, y esa

897
00:49:20.240 --> 00:49:23.570
confianza pública es absolutamente
necesaria para la aceptación

898
00:49:23.860 --> 00:49:25.840
de este tipo de tecnologías.

899
00:49:26.180 --> 00:49:30.080
De hecho, hay una discusión siempre
con respecto a una falsa dicotomía

900
00:49:30.080 --> 00:49:33.860
que se presenta, la dicotomía entre
innovación y regulación no éticas. Se

901
00:49:33.860 --> 00:49:38.060
dice que la ética o la regulación
matan la innovación.

902
00:49:38.580 --> 00:49:41.350
Creo que es una falsa dicotomía,
porque precisamente

903
00:49:41.680 --> 00:49:46.360
lo que promueve la ética y la
consiguiente regulación de este tipo

904
00:49:46.360 --> 00:49:49.810
de tecnologías es un tipo de
innovación que es una innovación

905
00:49:49.810 --> 00:49:54.670
confiable, una innovación social, que
está precisamente alineada con lo que

906
00:49:54.670 --> 00:49:59.170
son las necesidades, valores y
preferencias de la sociedad. Y eso es

907
00:49:59.170 --> 00:50:01.000
un elemento muy importante

908
00:50:02.110 --> 00:50:03.040
a tener en cuenta,

909
00:50:03.300 --> 00:50:04.230
porque además generan,

910
00:50:04.890 --> 00:50:06.960
lo que podríamos decir un círculo
virtuoso.

911
00:50:07.480 --> 00:50:11.110
Determinados valores que son
percibidos como favorables en la

912
00:50:11.110 --> 00:50:15.370
tecnología, motivan la práctica de su
uso y a la vez, esta práctica de su

913
00:50:15.370 --> 00:50:18.850
uso fomente ir bruce esos valores que
se consideran positivos. Esto es muy

914
00:50:18.850 --> 00:50:23.050
importante, este círculo virtuoso que
puede generar la ética aplicada

915
00:50:23.050 --> 00:50:26.620
precisamente a una tecnología tan
disruptiva comes la inteligencia

916
00:50:27.430 --> 00:50:28.180
artificial.

917
00:50:28.580 --> 00:50:29.000
Claro,

918
00:50:29.660 --> 00:50:32.990
como sé cómo se desarrolla, como
simplemente a la primera pregunta era

919
00:50:32.990 --> 00:50:37.430
porque la segunda pregunta era Para
que, para prevenir el daño y para

920
00:50:37.430 --> 00:50:42.610
generar confianza y éste alineamiento
de valores. Y como sé cómo se

921
00:50:42.710 --> 00:50:43.430
implementa

922
00:50:44.040 --> 00:50:47.370
la ética en la inteligencia
artificial, se implementa primero

923
00:50:47.400 --> 00:50:48.030
hacia una

924
00:50:48.380 --> 00:50:52.490
una actividad reflexiva, a lo que nos
invitaba también antes Daniel, porque

925
00:50:52.730 --> 00:50:53.300
hay muchas.

926
00:50:54.040 --> 00:50:59.080
La actividades relacionadas con la
inteligencia artificial que no

927
00:50:59.090 --> 00:51:01.840
necesitan reflexión, pero
precisamente la propia, el propio

928
00:51:01.840 --> 00:51:04.540
desarrollo de la inteligencia
artificial necesita. Esa. Es la

929
00:51:04.540 --> 00:51:06.460
introducción de flexibilidad a través

930
00:51:06.660 --> 00:51:12.240
de códigos y de sistemas de buenas
prácticas. Y es un poco lo que ahora

931
00:51:12.240 --> 00:51:14.700
nos va a contar también Gorka, que se
ha hecho en la Diputación de

932
00:51:14.700 --> 00:51:18.120
Guipúzcoa desarrollar un código
ético, es decir, un marco de

933
00:51:18.120 --> 00:51:18.810
referencia,

934
00:51:20.020 --> 00:51:24.700
que sirva para establecer esas
coordenadas fundamentales en las

935
00:51:24.700 --> 00:51:27.610
cuales desarrollar nuestros sistemas
de inteligencia artificial, en este

936
00:51:27.610 --> 00:51:30.820
caso en la Administración pública,
que pueden tener muchísimos

937
00:51:30.820 --> 00:51:34.570
beneficios, que pueden ahorrar
muchísimos procesos, que pueden hacer

938
00:51:34.810 --> 00:51:37.750
muchísimas decisiones mucho más
rápidas y que, por lo tanto, mucho

939
00:51:37.750 --> 00:51:39.400
más eficaces y eficientes,

940
00:51:39.680 --> 00:51:43.250
pero que necesitan ese marco de
referencia. Y ese marco de referencia

941
00:51:43.700 --> 00:51:46.760
provoca también una serie de un
conjunto de buenas prácticas, es

942
00:51:46.760 --> 00:51:50.810
decir, un conjunto de elementos que
podemos aplicar en concreto a lo que

943
00:51:50.810 --> 00:51:54.500
es el desarrollo de este tipo de
aplicaciones y servicios, en este

944
00:51:54.500 --> 00:51:58.310
caso la Administración pública, como
es la Diputación Foral de Guipúzcoa.

945
00:51:59.260 --> 00:52:02.170
Además, la primera pregunta, y en la
primera, buena práctica que viene

946
00:52:02.170 --> 00:52:05.140
recogida en el código y que siempre
debemos hacernos es

947
00:52:05.620 --> 00:52:09.340
si merece la pena desarrollar un
sistema de inteligencia artificial

948
00:52:09.340 --> 00:52:10.540
para tal o cual.

949
00:52:12.130 --> 00:52:15.370
Entorno, ámbito cuestión o problema,
porque

950
00:52:15.800 --> 00:52:19.760
podemos concluir que por su propia
naturaleza, que es especialmente

951
00:52:19.760 --> 00:52:22.550
compleja o especialmente delicada, o
especialmente

952
00:52:22.900 --> 00:52:26.740
tiene que ver con una cuestión
política y

953
00:52:26.840 --> 00:52:31.010
y valorativa, que no está
perfectamente definida o por su

954
00:52:31.010 --> 00:52:35.360
propio costó medioambiental. Es
decir, podríamos estar matando moscas

955
00:52:35.360 --> 00:52:37.970
a cañonazos, porque el consumo de.

956
00:52:38.160 --> 00:52:40.710
Dentro del desarrollo de la
inteligencia artificial tiene un

957
00:52:40.710 --> 00:52:44.310
consumo energético y un impacto
ecológico muy grande. Es decir,

958
00:52:44.550 --> 00:52:47.460
tenemos que hacernos. Es la primera
pregunta, es si merece la pena.

959
00:52:47.700 --> 00:52:50.940
Y no hacer siempre también es una
opción. Parece que vivimos una

960
00:52:50.940 --> 00:52:54.210
sociedad en la que hay que hacer
compulsivamente cosas, pero no a

961
00:52:54.210 --> 00:52:57.360
hacer. Es una opción, ni pueden ser
una buena opción desde un punto de

962
00:52:57.360 --> 00:53:00.510
vista ético y social. A partir de
ahí,

963
00:53:00.840 --> 00:53:04.680
puede haber buenas prácticas como
sistema robustos de ciberseguridad,

964
00:53:05.070 --> 00:53:08.160
participación pública en el
desarrollo de los sistemas

965
00:53:08.500 --> 00:53:12.100
con la mayoría o la mayor parte de
personas que puedan estar y

966
00:53:12.100 --> 00:53:15.070
colectivos que pueden estar
implicados en este tipo de

967
00:53:15.820 --> 00:53:19.510
aplicación. Un análisis exhaustivo
del impacto medioambiental que puede

968
00:53:19.510 --> 00:53:22.120
tener el desarrollo de esa
tecnología,

969
00:53:22.870 --> 00:53:26.500
publicidad, conocimiento,
transparencia, posibilidad de

970
00:53:26.500 --> 00:53:29.560
rendición de cuentas, explica
habilidad. Todos esos elementos

971
00:53:29.800 --> 00:53:33.190
que constituyen lo que puede llamarse
una evaluación de impacto ético, que

972
00:53:33.190 --> 00:53:36.340
es justo de lo que nos va a hablar
ahora, Gorka, continuación yo voy a

973
00:53:36.340 --> 00:53:37.420
terminar aquí. Muchas gracias.

974
00:53:49.720 --> 00:53:52.660
Bueno, gracias. Txetxu, espero estar
a la altura de la expectativa.

975
00:53:56.650 --> 00:54:02.080
Eskerrik asko honera etortzeagatik.
Plazer bat da ikustea horrelako areto

976
00:54:02.080 --> 00:54:03.490
bat hain beteta

977
00:54:04.360 --> 00:54:07.440
horrelako gaiak, gaiei buruz hitz
egiteko.

978
00:54:08.080 --> 00:54:10.480
Yo antes de comenzar permitió ni
medio minuto

979
00:54:12.140 --> 00:54:15.400
contextualizar, porque estoy yo aquí,
en este.

980
00:54:15.980 --> 00:54:17.270
Kasu partikular.

981
00:54:17.820 --> 00:54:18.180
Eh.

982
00:54:18.860 --> 00:54:21.920
Hice es la Sociedad Foral de
Servicios Informáticos.

983
00:54:23.440 --> 00:54:26.170
Somos, por tanto, medio propio de la
Diputación,

984
00:54:26.600 --> 00:54:29.540
y damos servicio integral de
informática a toda la parte

985
00:54:29.990 --> 00:54:31.070
diputación y

986
00:54:31.640 --> 00:54:32.960
y al resto de ayuntamientos.

987
00:54:34.230 --> 00:54:37.160
Gestionamos todas las líneas de
comunicación, por ejemplo, que tienen

988
00:54:37.160 --> 00:54:40.010
los ayuntamientos, las
mancomunidades. Evidentemente, en la

989
00:54:40.010 --> 00:54:40.610
Diputación

990
00:54:41.280 --> 00:54:43.770
gestionamos también todos los
servidores, todos los sistemas,

991
00:54:44.180 --> 00:54:46.820
y también hacemos el desarrollo de
aplicaciones.

992
00:54:47.460 --> 00:54:50.730
Y dentro de una parte muy pequeña de
esas están, esta es la inteligencia

993
00:54:50.730 --> 00:54:53.190
artificial que ponerse el tema. El
tema de hoy

994
00:54:53.500 --> 00:54:56.170
sí que me gustaría comentar.

995
00:54:56.720 --> 00:55:00.410
Y por hacer un poco de historia,
aunque Mikel en la presentación ya

996
00:55:00.800 --> 00:55:03.590
ha ido contando y el contenido que
tiene el código ético,

997
00:55:05.060 --> 00:55:06.830
yo iría un poco más atrás. Incluso.

998
00:55:07.400 --> 00:55:13.040
En el año 2021 la Diputación Foral de
Guipúzcoa puso en marcha su plan de

999
00:55:13.040 --> 00:55:13.850
transformación digital.

1000
00:55:14.920 --> 00:55:18.400
Nos referimos como hoy de P por sus
hijos en euskera Aldaketarik generan

1001
00:55:18.400 --> 00:55:18.700
plana.

1002
00:55:19.340 --> 00:55:22.160
Y ahí, como no podía ser de otra
manera en esa época, pues hay una

1003
00:55:22.500 --> 00:55:23.670
una línea de trabajo

1004
00:55:24.340 --> 00:55:27.730
y tiene que ver con los datos y con
la inteligencia artificial.

1005
00:55:28.340 --> 00:55:32.030
En esa línea de trabajo había
diferentes acciones a realizar. Una

1006
00:55:32.030 --> 00:55:35.720
parte, pero estaba el fomento de
proyectos de este estilo de

1007
00:55:35.720 --> 00:55:39.170
sobretodo, en la parte de data y si
sale alguna alguna cuestión

1008
00:55:39.170 --> 00:55:42.200
relacionada con Inteligencia
artificial podría poner en práctica

1009
00:55:42.290 --> 00:55:44.060
este, esta tecnología.

1010
00:55:45.040 --> 00:55:47.440
Había una parte muy importante
también relacionado con la formación,

1011
00:55:47.440 --> 00:55:48.220
para poder llevar,

1012
00:55:48.620 --> 00:55:50.440
acabó y adelante

1013
00:55:50.920 --> 00:55:51.910
estos proyectos.

1014
00:55:52.680 --> 00:55:57.930
Y luego surgió la cuestión de poder
redactar un código ético que al final

1015
00:55:57.990 --> 00:56:01.860
le diera empaque y marcó a todo eso.
Es el libro que

1016
00:56:02.190 --> 00:56:04.770
estaba la entrada que veo que todavía
quedan unos cuantos ejemplares. Os

1017
00:56:04.770 --> 00:56:05.490
invito a

1018
00:56:05.860 --> 00:56:09.850
a recogerlo y leerlo es de lectura
muy sencilla. Aquí están los

1019
00:56:10.370 --> 00:56:11.710
los culpables

1020
00:56:13.000 --> 00:56:13.870
de ese contenido.

1021
00:56:15.480 --> 00:56:20.160
Yo iría un poco más allá. Son, yo
calculo siempre tres años, porque el

1022
00:56:20.160 --> 00:56:20.970
primer borrador

1023
00:56:21.380 --> 00:56:22.850
se presentó en esta misma sala

1024
00:56:23.700 --> 00:56:28.410
en un acto muy parecido a éste. Yo
estaba ahí sentado, muy atento para

1025
00:56:28.410 --> 00:56:28.920
ver lo que

1026
00:56:29.160 --> 00:56:31.460
luego nos iba a tocar.

1027
00:56:32.860 --> 00:56:33.130
Y

1028
00:56:33.640 --> 00:56:36.490
por poner en contexto tres años, y
muchas veces,

1029
00:56:36.710 --> 00:56:38.200
me parece poco tiempo y demás,

1030
00:56:38.720 --> 00:56:43.190
pero a mí me gusta ponerlo al lado de
un

1031
00:56:43.860 --> 00:56:49.560
un evento a nivel local que ocurrió
más o -3 años, que es la implantación

1032
00:56:49.560 --> 00:56:49.980
de etiqueta

1033
00:56:50.760 --> 00:56:54.810
en todas las tiendas aquí en
Guipúzcoa. Son tres años, se cumple

1034
00:56:54.810 --> 00:56:56.400
el. Se cumplieron en uno de noviembre

1035
00:56:56.860 --> 00:56:57.730
recientemente,

1036
00:56:58.300 --> 00:57:01.990
y la otra es a principios de
diciembre, finales de noviembre.

1037
00:57:02.820 --> 00:57:05.850
Fue la publicación de O el acceso
público LGTB,

1038
00:57:06.660 --> 00:57:10.110
que parece que también ha pasado una
barbaridad, pero coincide más o menos

1039
00:57:10.110 --> 00:57:13.260
en el tiempo que de alguna forma, es
lo que ha puesto patas arriba

1040
00:57:13.820 --> 00:57:17.900
en todo el asunto de la ética de la
inteligencia artificial.

1041
00:57:18.610 --> 00:57:19.480
Finalmente,

1042
00:57:20.180 --> 00:57:23.660
el código se publicó en marzo del 23.

1043
00:57:24.980 --> 00:57:29.120
Cuando lo tenéis ahí disponible, esta
forma parte de todo lo que es el

1044
00:57:29.120 --> 00:57:32.960
sistema de integridad institucional,
junto con otros cinco código, este es

1045
00:57:32.960 --> 00:57:33.530
el 6º,

1046
00:57:34.280 --> 00:57:35.840
y está también disponible,

1047
00:57:36.400 --> 00:57:39.280
es decir, en la web de la Diputación.

1048
00:57:39.990 --> 00:57:43.740
El código se basó. Es todo lo
contrario. Se hizo mucho mejor que

1049
00:57:43.740 --> 00:57:44.970
yo, pero se basó en él,

1050
00:57:45.300 --> 00:57:47.160
en el borrador que existía en el
momento

1051
00:57:48.320 --> 00:57:51.260
del Reglamento de la Inteligencia
Artificial de Europa.

1052
00:57:52.810 --> 00:57:54.360
El borrador luego, pues, eh.

1053
00:57:54.520 --> 00:57:58.450
Cuando ya se llegó a publicar y el
texto definitivo, ha habido algunas

1054
00:57:58.450 --> 00:57:59.200
diferencias.

1055
00:57:59.940 --> 00:58:03.660
Hay un tema que sí que difiere, que
tienen que ver con el tema de los

1056
00:58:03.660 --> 00:58:04.260
riesgos,

1057
00:58:04.900 --> 00:58:06.730
el Reglamento actualmente,

1058
00:58:07.120 --> 00:58:11.680
y hace una. Tiene una diferencia que
ateratzen de riesgos en su momento se

1059
00:58:11.680 --> 00:58:15.190
hablaba sólo de alto y bajo riesgo,
que es lo que está recogido en el

1060
00:58:15.190 --> 00:58:15.640
código,

1061
00:58:16.060 --> 00:58:19.600
pero que es con lo que hemos ido
trabajando estos estos años.

1062
00:58:20.780 --> 00:58:24.500
El contenido ya lo ha mencionado
Michael, ha ido diseccionando, pero

1063
00:58:24.500 --> 00:58:29.420
sí que me gustaría pararme en algunos
puntos, por bueno, desde el punto de

1064
00:58:29.420 --> 00:58:30.170
vista quizá

1065
00:58:30.530 --> 00:58:32.680
más técnico y dar más,

1066
00:58:33.200 --> 00:58:35.300
más importancia algunas, algunas
cuestiones.

1067
00:58:35.660 --> 00:58:37.880
Tiene cinco principios, como podéis
ver en el

1068
00:58:38.080 --> 00:58:40.850
el código, y 20 normal adaptación que
sabes que

1069
00:58:41.160 --> 00:58:42.810
mencionaba Txetxu.

1070
00:58:43.460 --> 00:58:46.250
entre los principios sí que me
gustaría destacar el tema de la

1071
00:58:47.380 --> 00:58:48.340
explica habilidad,

1072
00:58:49.800 --> 00:58:54.270
porque al final busca evitar el
concepto este de cajas negras.

1073
00:58:55.840 --> 00:58:58.810
Pues decisiones o los resultados,

1074
00:58:59.710 --> 00:59:02.670
sin saber muy bien cómo son, cómo se
han producido aquí.

1075
00:59:03.760 --> 00:59:04.800
Tristemente,

1076
00:59:05.500 --> 00:59:07.570
como pasa en otras parcelas de la
vida,

1077
00:59:08.300 --> 00:59:12.260
en el tema de la inteligencia
artificial no hay una solución

1078
00:59:13.070 --> 00:59:13.640
perfecta.

1079
00:59:14.360 --> 00:59:19.340
Entonces, normalmente los algoritmos,
cuanto mejores resultados predicen,

1080
00:59:19.340 --> 00:59:19.910
no dan

1081
00:59:20.480 --> 00:59:21.740
menos explicables, son.

1082
00:59:22.420 --> 00:59:23.170
Y al revés.

1083
00:59:23.620 --> 00:59:27.100
Entonces, esta es una de las primeras
decisiones.

1084
00:59:29.010 --> 00:59:32.880
Bueno, pues gracias al código ético,
nos podemos fijar a la hora de

1085
00:59:32.940 --> 00:59:37.500
seleccionar incluso, pues que
algoritmo queremos utilizar,

1086
00:59:39.100 --> 00:59:40.660
dentro de las normas de actuación,

1087
00:59:40.980 --> 00:59:42.630
y me gustaría destacar algunas de
ellas.

1088
00:59:43.130 --> 00:59:43.720
Eguna,

1089
00:59:44.240 --> 00:59:45.950
quizá esto así que no hemos
mencionado todavía,

1090
00:59:46.660 --> 00:59:48.940
y que se menciona en el código, que
tienen que ver con el gobierno del

1091
00:59:48.940 --> 00:59:49.210
dato.

1092
00:59:50.360 --> 00:59:51.170
Al final

1093
00:59:51.800 --> 00:59:55.850
hay un lema en inglés para todo esto,
que dice Garbi hitz egin garbi out,

1094
00:59:56.620 --> 01:00:00.220
que de alguna forma quiere decir que
si no tenemos datos de calidad, los

1095
01:00:00.220 --> 01:00:01.840
resultados no pueden ser de calidad.

1096
01:00:02.750 --> 01:00:04.720
Al final no hay magia.

1097
01:00:05.460 --> 01:00:06.960
La inteligencia artificial son

1098
01:00:07.240 --> 01:00:08.170
matemáticas,

1099
01:00:08.620 --> 01:00:09.520
básicamente,

1100
01:00:10.520 --> 01:00:14.810
Ezin datos de buena calidad y bien
gestionados y bien tratados.

1101
01:00:15.320 --> 01:00:17.780
No vamos a poder obtener resultados

1102
01:00:18.150 --> 01:00:18.990
maravillosos.

1103
01:00:19.420 --> 01:00:20.800
Con lo cual hay que hay que

1104
01:00:21.150 --> 01:00:21.900
incluso

1105
01:00:22.240 --> 01:00:26.230
en pasos anteriores, ir cuidando el
camino que vamos construyendo.

1106
01:00:26.900 --> 01:00:30.410
Hay otro tema que este sí que ya lo
hemos mencionado, un poco más, que

1107
01:00:30.410 --> 01:00:32.840
tiene que ver con el concepto del
crimen y en el look

1108
01:00:33.320 --> 01:00:34.790
y poner la persona en el centro,

1109
01:00:35.400 --> 01:00:37.260
sobre todo en aquellos casos que

1110
01:00:38.060 --> 01:00:39.170
qué tienen que ver con

1111
01:00:39.810 --> 01:00:41.060
alguna toma de decisión.

1112
01:00:41.860 --> 01:00:43.540
Aquí la ventaja de disponer de él

1113
01:00:44.100 --> 01:00:49.290
del código ético, es que nos invita o
nos empuja o nos lleva

1114
01:00:50.040 --> 01:00:54.120
a tener en cuenta este este hecho
desde el principio, desde el diseño

1115
01:00:54.720 --> 01:00:55.590
de la solución.

1116
01:00:56.220 --> 01:01:00.420
Con lo cual, nos gusta más referirnos
que dejan de ser de alguna forma

1117
01:01:00.820 --> 01:01:01.750
sistemas

1118
01:01:01.940 --> 01:01:05.690
de toma de decisión, sino que son
sistemas o herramientas, porque al

1119
01:01:05.690 --> 01:01:09.230
final, los algoritmos no toman
decisiones, son son herramientas,

1120
01:01:09.230 --> 01:01:09.500
son.

1121
01:01:09.880 --> 01:01:13.840
Somos las personas las que decidimos,
y el algoritmo va toma una decisión.

1122
01:01:14.360 --> 01:01:18.140
Lo enfocamos más en herramientas de
apoyo a la decisión. De alguna forma,

1123
01:01:18.380 --> 01:01:21.860
es una herramienta que nos de
facilidades para tomar una decisión

1124
01:01:22.140 --> 01:01:26.520
y tenga una así automatismos de algo
más de información al respecto, como

1125
01:01:26.520 --> 01:01:28.190
mencionaba a Daniel, en los casos,

1126
01:01:29.140 --> 01:01:30.040
pues hay un montón de.

1127
01:01:30.440 --> 01:01:33.110
De información, un montón de
variables a tener en cuenta, que al

1128
01:01:33.110 --> 01:01:36.800
final nos da un poco más de luz en
ese. En ese tema, pero lo que nos

1129
01:01:36.800 --> 01:01:42.110
invita el código es que al final, a
través del diseño del sistema, y está

1130
01:01:42.110 --> 01:01:43.130
orientado a que

1131
01:01:43.620 --> 01:01:44.430
la decisión

1132
01:01:44.580 --> 01:01:45.330
o que apoye

1133
01:01:45.740 --> 01:01:47.540
en la toma la decisión no hace poco,

1134
01:01:48.500 --> 01:01:48.830
eh.

1135
01:01:49.130 --> 01:01:53.100
La semana pasada yo creo que era,
tuve la ocasión de estar en una en

1136
01:01:53.100 --> 01:01:56.220
una charla también con todos estos
temas, orientado a un poco más la

1137
01:01:56.220 --> 01:01:56.940
empresa,

1138
01:01:57.980 --> 01:02:01.100
la historia del retorno, que pueden
dar este tipo de herramientas,

1139
01:02:01.600 --> 01:02:03.880
y se referían a este concepto

1140
01:02:05.000 --> 01:02:06.620
del riesgo que tiene,

1141
01:02:07.210 --> 01:02:10.860
que al final, una vez que tienes una
herramienta, estas implantada, y ya

1142
01:02:10.860 --> 01:02:14.280
ves qué herramienta acierta y demás,
pues bajar un poco la guardia.

1143
01:02:15.820 --> 01:02:19.810
Pues que sea más. Siguiente,
siguientes, siguiente. Que sin e,

1144
01:02:20.080 --> 01:02:23.800
ez zian recapacitar sin brevemente lo
que te proponen directamente, ya

1145
01:02:23.800 --> 01:02:27.820
aceptes. Es verdad que es un riesgo,
pero está en nuestras manos la forma

1146
01:02:27.820 --> 01:02:30.790
de cómo diseñamos dotes herramienta,
así como las encajamos unos

1147
01:02:30.790 --> 01:02:34.360
procedimientos que es una parte
fundamental que luego, quizá en los

1148
01:02:34.360 --> 01:02:35.560
ejemplos de los proyectos.

1149
01:02:36.940 --> 01:02:37.840
Hala ere, un poco de esto,

1150
01:02:39.500 --> 01:02:40.310
que realmente

1151
01:02:40.580 --> 01:02:42.380
le damos el valor que tiene.

1152
01:02:43.140 --> 01:02:46.410
Hay otro, hay otro otra buena
práctica que se menciona en el

1153
01:02:46.410 --> 01:02:47.040
código, que

1154
01:02:47.560 --> 01:02:50.380
además hoy en día está muy de
actualidad, que es el tema de Greene.

1155
01:02:50.380 --> 01:02:50.710
Y ahí

1156
01:02:51.080 --> 01:02:53.630
¿qué tienen que ver con los
algoritmos verdes, con la

1157
01:02:53.630 --> 01:02:55.850
sostenibilidad que aumentaba TXETXU.
Ahora.

1158
01:02:56.620 --> 01:02:59.920
Es un tema que está totalmente de
actualidad, sobretodo con el auge

1159
01:03:00.160 --> 01:03:03.910
de la inteligencia artificial
generativa.

1160
01:03:05.380 --> 01:03:06.160
Por él,

1161
01:03:07.060 --> 01:03:08.410
el consumo de electricidad,

1162
01:03:08.840 --> 01:03:09.710
producen

1163
01:03:10.160 --> 01:03:11.000
y demás y

1164
01:03:11.100 --> 01:03:13.230
y completamente de acuerdo con lo que
comentas,

1165
01:03:13.960 --> 01:03:16.540
no matar moscas a cañonazos. En ese
sentido.

1166
01:03:17.100 --> 01:03:21.120
Aún si cabe más, es un tema, como
digo, que está muy de actualidad.

1167
01:03:22.300 --> 01:03:24.610
La verdad es que estuviera recogido y
hace tres años.

1168
01:03:25.460 --> 01:03:26.600
Es sorprendente,

1169
01:03:27.520 --> 01:03:32.710
porque hace poco también la SPRI y
organizó una jornada exclusiva de

1170
01:03:32.710 --> 01:03:33.280
este tema.

1171
01:03:35.100 --> 01:03:36.860
En prácticas y técnicas,

1172
01:03:37.980 --> 01:03:38.340
pues

1173
01:03:38.460 --> 01:03:40.410
que están todavía en fase de
investigación,

1174
01:03:40.720 --> 01:03:41.920
para ver de qué manera.

1175
01:03:42.540 --> 01:03:43.260
Se pueden,

1176
01:03:43.890 --> 01:03:47.910
se puede reducir, se puede controlar
mejor el consumo que producen en todo

1177
01:03:47.910 --> 01:03:48.540
este tipo de.

1178
01:03:50.120 --> 01:03:50.900
De modelos.

1179
01:03:52.540 --> 01:03:56.140
El código también menciona, y en este
caso sí que sigue exactamente igual

1180
01:03:57.040 --> 01:03:58.160
que él querría.

1181
01:03:59.260 --> 01:04:02.830
No ha cambiado. Todo el tema de
prácticas prohibidas. Hay una serie

1182
01:04:02.830 --> 01:04:03.580
de prácticas

1183
01:04:03.860 --> 01:04:06.860
que están ya perfectamente descritas
y enumeradas.

1184
01:04:07.220 --> 01:04:07.520
Qué

1185
01:04:07.940 --> 01:04:11.240
que no se pueden utilizar, y eso,
bueno, ya incluso, ezta,

1186
01:04:11.420 --> 01:04:14.900
cogieron la norma, y yo creo que esa
parte del río, incluso ya está en

1187
01:04:14.900 --> 01:04:17.390
vigor, con lo cual, bueno, allí no
hay mucha,

1188
01:04:17.970 --> 01:04:19.030
no hay diferencias,

1189
01:04:19.360 --> 01:04:21.460
sí que es otro punto que también.

1190
01:04:22.130 --> 01:04:25.550
Otras las normas que menciona es la
posibilidad del uso de Sant boxes,

1191
01:04:25.550 --> 01:04:25.940
que son

1192
01:04:26.420 --> 01:04:28.820
espacios controlados para realizar
pruebas.

1193
01:04:29.480 --> 01:04:31.380
Hay algunos que también tienen
incluso,

1194
01:04:32.140 --> 01:04:35.710
en relación con algunas partes
regulatorias, que igual, en nuestro

1195
01:04:35.710 --> 01:04:36.490
caso particular,

1196
01:04:36.780 --> 01:04:37.860
no toca, pero es un tema

1197
01:04:38.420 --> 01:04:42.830
que también hoy en día está de
actualidad, porque en el anteproyecto

1198
01:04:42.830 --> 01:04:45.860
de ley que se está desarrollando en
el Estado

1199
01:04:46.900 --> 01:04:49.480
se incluye y, bueno, el papel de la
poesía.

1200
01:04:50.580 --> 01:04:51.420
En esta parte.

1201
01:04:52.520 --> 01:04:55.280
La cuestión fundamental que,

1202
01:04:56.060 --> 01:04:59.240
que luego me referiré más adelante,
que es la parte del registro público,

1203
01:04:59.240 --> 01:05:00.740
que también comentaba Chechu,

1204
01:05:01.120 --> 01:05:03.250
de algoritmos de la administración y
sobretodo

1205
01:05:03.890 --> 01:05:05.900
relacionado con el ejercicio de.

1206
01:05:06.100 --> 01:05:07.060
De transparencia,

1207
01:05:07.460 --> 01:05:10.940
pero por encima de todo el modelo de
evaluación de impacto ético,

1208
01:05:11.350 --> 01:05:13.440
que al final es el que marca

1209
01:05:13.820 --> 01:05:18.170
un poco las reglas del juego, o, como
seguimos con el código ético.

1210
01:05:19.340 --> 01:05:21.260
El código es objeto de aplicación

1211
01:05:21.800 --> 01:05:24.740
en toda la Diputación Foral de
Guipúzcoa, todas las entidades

1212
01:05:25.020 --> 01:05:25.800
en la diputación,

1213
01:05:26.260 --> 01:05:28.990
y, por supuesto, en toda la
contratación pública que se hace

1214
01:05:28.990 --> 01:05:29.440
desde ahí

1215
01:05:29.800 --> 01:05:32.620
es de obligado cumplimiento desde el
año 2023

1216
01:05:33.320 --> 01:05:35.120
desde que ese público, si comparamos,

1217
01:05:35.560 --> 01:05:36.340
por ejemplo,

1218
01:05:37.560 --> 01:05:39.960
si nos basamos en la parte más de
normativa de.

1219
01:05:41.460 --> 01:05:42.960
Del río, en concreto, qué

1220
01:05:43.140 --> 01:05:44.040
pues viene.

1221
01:05:44.740 --> 01:05:48.340
Está publicado desde. Está en vigor,
desde el año 24.

1222
01:05:49.560 --> 01:05:51.840
Tiene diferentes plazos de
aplicación, según

1223
01:05:52.280 --> 01:05:53.420
el caso que ocupa.

1224
01:05:54.520 --> 01:05:54.970
Pero

1225
01:05:55.260 --> 01:05:58.080
ahora está un poco en debate, hace

1226
01:05:58.780 --> 01:05:59.740
pocas semanas,

1227
01:06:00.560 --> 01:06:02.720
un decreto ómnibus digital,

1228
01:06:03.680 --> 01:06:04.520
lo que hace

1229
01:06:04.740 --> 01:06:08.280
básicamente retrasar algunas de las
fechas de implantación.

1230
01:06:08.870 --> 01:06:13.610
Todo esto está relacionado con el
debate que hay en Europa,

1231
01:06:14.600 --> 01:06:17.480
por la sobre regulación en estos
temas y

1232
01:06:18.250 --> 01:06:22.110
diferencia de competitividad con
empresas americanas,

1233
01:06:22.670 --> 01:06:23.920
dicen. Para no perder.

1234
01:06:24.500 --> 01:06:26.900
Y bueno, pues esa parte de
competitividad, entonces,

1235
01:06:27.220 --> 01:06:28.570
bueno, es un tema que está en debate.

1236
01:06:28.920 --> 01:06:32.730
Está el anteproyecto de ley, que era
un poco la mano, pero, bueno, en

1237
01:06:32.730 --> 01:06:33.840
nuestro caso particular,

1238
01:06:34.520 --> 01:06:38.120
esto ya lo venimos utilizando y lo
hemos puesto en marcha en algunos

1239
01:06:38.120 --> 01:06:39.170
proyectos, porque al final

1240
01:06:39.840 --> 01:06:40.800
todo esto va

1241
01:06:41.280 --> 01:06:42.390
va más allá del

1242
01:06:42.580 --> 01:06:46.240
del cumplimiento normativo, se trata
de integridad institucional, y es

1243
01:06:46.240 --> 01:06:47.710
donde está incluido.

1244
01:06:48.480 --> 01:06:49.140
Código ético.

1245
01:06:50.360 --> 01:06:51.440
Una vez que.

1246
01:06:52.040 --> 01:06:56.060
Que tuvimos en el texto ya
dispensación y está publicado y

1247
01:06:56.060 --> 01:06:58.490
hicimos las primeras lecturas y
demás,

1248
01:06:59.930 --> 01:07:03.280
nos planteamos cómo, cómo seguir ahí.

1249
01:07:04.250 --> 01:07:06.980
Liderado por la Dirección de Buen
Gobierno,

1250
01:07:07.970 --> 01:07:13.570
pusimos en práctica e intentamos ver
de qué manera y vamos a poner. Y

1251
01:07:13.570 --> 01:07:17.320
vamos a utilizar el código ético,
como comimos a desarrollarlo

1252
01:07:17.740 --> 01:07:21.700
y poderlo. Utilizaron los proyectos,
hicimos un análisis

1253
01:07:22.100 --> 01:07:24.800
de las diferentes prácticas

1254
01:07:25.140 --> 01:07:28.740
que se recomendaban, de los
principios y demás.

1255
01:07:29.480 --> 01:07:33.920
Intentamos diseccionar, pues en dos,
en dos partes. Por un lado, quienes

1256
01:07:33.920 --> 01:07:35.690
participan en proyectos de este tipo

1257
01:07:36.580 --> 01:07:40.930
y, por otro, en qué momento del ciclo
de desarrollo del proyecto.

1258
01:07:42.820 --> 01:07:46.750
En la parte de participantes, estaba
claro que gobernanza era un actor

1259
01:07:46.750 --> 01:07:48.190
fundamental, porque al final,

1260
01:07:49.000 --> 01:07:49.750
el que gestiona

1261
01:07:50.200 --> 01:07:50.650
toda la tarde

1262
01:07:51.080 --> 01:07:51.920
interna de.

1263
01:07:52.280 --> 01:07:53.000
De la casa.

1264
01:07:56.620 --> 01:07:59.920
Era toda la parte de ética desde la
Dirección de Buen Gobierno.

1265
01:08:01.060 --> 01:08:02.380
Y nosotros, como hice, pues

1266
01:08:03.140 --> 01:08:06.740
la parte técnica que participamos en
proyectos también participábamos

1267
01:08:07.200 --> 01:08:10.440
el tac, el tercer actor no podía ser
otro que la parte de negocio, la

1268
01:08:10.440 --> 01:08:12.090
unidad de negocio, que al final es
que

1269
01:08:12.520 --> 01:08:16.330
el que lidera la iniciativa concreta

1270
01:08:17.660 --> 01:08:19.550
en el ciclo de vida, desarrollo. Sí
que,

1271
01:08:19.779 --> 01:08:19.960
eh.

1272
01:08:20.399 --> 01:08:22.410
Vimos que ahí hay cuestiones que.

1273
01:08:22.609 --> 01:08:27.050
Que tenían que ser desde el primer
momento, desde la propia de detección

1274
01:08:27.050 --> 01:08:29.020
de que una iniciativa de este tipo

1275
01:08:29.479 --> 01:08:30.970
y podía o no,

1276
01:08:31.720 --> 01:08:34.680
podría ser posible que tuviera algo
de quien tiene que ciencia oficial,

1277
01:08:35.080 --> 01:08:35.640
por él,

1278
01:08:35.819 --> 01:08:38.270
por el comentario que ha hecho, al
final,

1279
01:08:39.040 --> 01:08:40.660
es necesario ver si realmente

1280
01:08:42.100 --> 01:08:43.870
es competente, no a aplicar

1281
01:08:44.420 --> 01:08:45.560
algo de este tipo.

1282
01:08:46.020 --> 01:08:46.970
Y ahí sí que

1283
01:08:48.040 --> 01:08:50.290
se distingue también, bien claro,

1284
01:08:50.630 --> 01:08:55.270
los tipos de proyecto. La diferencia
es si el riesgo es bajo o es alto.

1285
01:08:56.340 --> 01:08:57.720
Es fundamental para ver

1286
01:08:57.899 --> 01:09:00.140
realmente el nivel de intensidad que
al final.

1287
01:09:00.800 --> 01:09:03.520
Y acabamos desarrollando,
implementando

1288
01:09:04.290 --> 01:09:05.160
un formulario,

1289
01:09:06.210 --> 01:09:09.330
vamos rellenando de forma
colaborativa entre las tres partes

1290
01:09:09.330 --> 01:09:13.800
que hemos comentado en las diferentes
fases del proyecto, desde la propio

1291
01:09:13.880 --> 01:09:14.550
inició,

1292
01:09:15.240 --> 01:09:16.970
al final la parte inicial

1293
01:09:17.979 --> 01:09:22.300
no deja de ser un análisis de
viabilidad, pero con él, con el punto

1294
01:09:22.300 --> 01:09:23.640
de vista ético,

1295
01:09:24.180 --> 01:09:27.000
porque, bueno, de alguna forma en el
código ya se menciona, pues ese

1296
01:09:27.000 --> 01:09:29.670
modelo de evaluación de impacto que
contenido mínimo tiene que tener,

1297
01:09:30.040 --> 01:09:33.310
y eso es lo que no sirvió de guía
para ir desarrollándolo.

1298
01:09:36.460 --> 01:09:39.910
Y bueno, hemos ido creando un
procedimiento para ir,

1299
01:09:40.319 --> 01:09:42.220
según va avanzando el proyecto,

1300
01:09:42.740 --> 01:09:44.180
entre las partes que

1301
01:09:44.430 --> 01:09:47.310
que participamos, ir rellenando,

1302
01:09:48.200 --> 01:09:49.220
pues toda la información

1303
01:09:49.800 --> 01:09:50.340
que hay

1304
01:09:51.260 --> 01:09:53.220
en el formulario se va.

1305
01:09:54.780 --> 01:09:55.470
Se incluye.

1306
01:09:56.460 --> 01:09:57.480
Hay diferentes.

1307
01:09:58.620 --> 01:10:00.480
Entre, muy relacionado con las
diferentes.

1308
01:10:01.020 --> 01:10:04.140
Qué recomendaciones que incluye el
código y demás.

1309
01:10:04.740 --> 01:10:06.960
Y finalmente, una vez que el caso

1310
01:10:07.320 --> 01:10:08.640
se pone en producción,

1311
01:10:09.780 --> 01:10:10.560
se publica,

1312
01:10:11.260 --> 01:10:13.130
se publica en el portal de
transparencia.

1313
01:10:14.060 --> 01:10:14.390
Pues

1314
01:10:14.600 --> 01:10:15.350
poco, haciendo

1315
01:10:17.180 --> 01:10:17.930
mención Noa,

1316
01:10:18.700 --> 01:10:20.020
a esa. Esa cuestión.

1317
01:10:21.300 --> 01:10:24.600
Se publica, y bueno, las sorpresas
que se usa. ¿Por qué?

1318
01:10:26.210 --> 01:10:26.480
Bueno,

1319
01:10:27.840 --> 01:10:33.210
hace un tiempo nos encontramos un
buen día un artículo en prensa,

1320
01:10:34.480 --> 01:10:36.880
en. Qué, cuya fuente única era

1321
01:10:38.220 --> 01:10:41.520
la publicación de unos casos, y
bueno, la verdad es que la primera

1322
01:10:41.520 --> 01:10:42.660
fue una sorpresa,

1323
01:10:43.380 --> 01:10:44.070
pero bueno, eh.

1324
01:10:44.420 --> 01:10:47.180
Muy interesante, la verdad es, como
ejercicio de transparencia.

1325
01:10:47.920 --> 01:10:48.070
Hoy,

1326
01:10:48.620 --> 01:10:50.390
en este caso, la opinión era.

1327
01:10:51.000 --> 01:10:51.810
Pero bueno, con lo cual

1328
01:10:53.120 --> 01:10:56.000
acabó bien. Ahí tenemos tres casos
publicados hoy en día

1329
01:10:56.620 --> 01:11:00.670
2 en camino, dos proyectos que están
ya por finalizar y estamos ya

1330
01:11:01.460 --> 01:11:03.290
acabando con la redacción

1331
01:11:04.420 --> 01:11:04.870
de.

1332
01:11:06.000 --> 01:11:08.850
Del informe para publicarlo en
transparencia.

1333
01:11:09.240 --> 01:11:10.800
Al final lo que hemos conseguido es

1334
01:11:11.800 --> 01:11:15.730
integrar, dentro de todo el ciclo de
vida, desarrollo de este tipo de

1335
01:11:15.730 --> 01:11:16.390
proyectos,

1336
01:11:16.940 --> 01:11:17.720
integrar

1337
01:11:17.820 --> 01:11:21.870
el código ético con este, con este
procedimiento y este formulario.

1338
01:11:22.820 --> 01:11:27.050
Hay un concepto ahora que se maneja
en el tema de inteligencia artificial

1339
01:11:27.050 --> 01:11:29.950
generativas, sobretodo lo que tiene
que ver con con.

1340
01:11:31.460 --> 01:11:34.700
Con el boom de los agentes y demás,
que va más relacionado

1341
01:11:35.560 --> 01:11:38.440
con mantener la senda de la
fiabilidad.

1342
01:11:40.480 --> 01:11:41.890
Que no falle y demás.

1343
01:11:42.360 --> 01:11:44.490
El concepto que se maneja

1344
01:11:45.140 --> 01:11:46.490
es el de guardarraíles.

1345
01:11:47.140 --> 01:11:50.870
A mí me gusta pensar que el código
ético para nosotros es. Es eso es.

1346
01:11:51.340 --> 01:11:52.690
Son nuestros guardarraíles,

1347
01:11:53.320 --> 01:11:56.020
que, de alguna forma, nos mantiene en
la.

1348
01:11:56.780 --> 01:11:58.160
En el carril de la ética

1349
01:11:58.620 --> 01:12:01.260
el desarrollo de esos proyectos, que
de otra forma,

1350
01:12:01.600 --> 01:12:04.330
pues, quizá podría podría desviarse.

1351
01:12:06.340 --> 01:12:11.200
Como decía, tenemos tres, tres casos
publicados, no voy a mencionar todos,

1352
01:12:11.200 --> 01:12:12.580
pero sí que me gustaría

1353
01:12:13.490 --> 01:12:15.200
mencionar un poco algunos.

1354
01:12:16.860 --> 01:12:20.640
Sobre todo por ver en cada uno de
ellos, pues, cuál es el contenido, no

1355
01:12:20.640 --> 01:12:21.630
el primer caso que

1356
01:12:23.820 --> 01:12:24.660
que publicamos

1357
01:12:25.150 --> 01:12:26.910
tiene que ver, es un caso muy
sencillo.

1358
01:12:28.180 --> 01:12:30.370
Digitalización de facturas en papel.
Esto

1359
01:12:30.760 --> 01:12:31.930
no hay que explicar mucho.

1360
01:12:32.360 --> 01:12:37.310
Parece mentira que hoy en día todavía
sigamos recibiendo facturas en papel,

1361
01:12:37.310 --> 01:12:40.010
pero, bueno, la realidad es que se
reciben antiguamente.

1362
01:12:40.520 --> 01:12:42.590
Disponíamos de un producto para poder

1363
01:12:43.700 --> 01:12:45.710
escanear, procesarlas y demás.

1364
01:12:46.840 --> 01:12:50.710
Y, ante la necesidad de cambiar ese
ese producto por temas de

1365
01:12:50.710 --> 01:12:51.550
obsolescencia,

1366
01:12:51.980 --> 01:12:52.550
pues, sí,

1367
01:12:53.280 --> 01:12:56.070
se puso encima de la mesa la
posibilidad de hacerlo con un

1368
01:12:56.070 --> 01:12:56.900
producto propio,

1369
01:12:57.280 --> 01:13:00.740
desarrollando Inteligencia Artificial
para detectarlas,

1370
01:13:00.960 --> 01:13:02.670
las partes, la factura y demás.

1371
01:13:03.140 --> 01:13:04.490
Esto es un caso claro

1372
01:13:04.620 --> 01:13:05.370
de un

1373
01:13:05.580 --> 01:13:06.960
un algoritmo modelo,

1374
01:13:08.120 --> 01:13:09.590
cuya aplicación no tiene riesgo.

1375
01:13:11.620 --> 01:13:14.410
Entonces, aquí el punto de la
realidad

1376
01:13:14.700 --> 01:13:16.200
no es algo que sea

1377
01:13:18.750 --> 01:13:20.850
muy a tener en cuenta. No hace falta

1378
01:13:21.290 --> 01:13:22.510
hacer ese análisis.

1379
01:13:24.660 --> 01:13:27.570
Llevamos un tiempo ya funcionando con
este modelo.

1380
01:13:28.680 --> 01:13:29.910
Recientemente

1381
01:13:30.370 --> 01:13:33.000
lo hemos vuelto a entrenar para
mejorarlo.

1382
01:13:34.220 --> 01:13:38.360
Y, entre otras cosas, por ejemplo,
para aquella recoja bien el código

1383
01:13:38.420 --> 01:13:39.950
que viene de etiqueta, porque

1384
01:13:40.240 --> 01:13:43.270
con los primeros facturas que
teníamos al principio, pues, no había

1385
01:13:43.270 --> 01:13:46.240
casi datos, y, como no había datos,
los resultados

1386
01:13:46.660 --> 01:13:48.310
no sólo no eran muy buenos.

1387
01:13:49.240 --> 01:13:52.420
El segundo caso, que sí que me
gustaría mencionar que ese es uno de

1388
01:13:52.420 --> 01:13:55.780
los que todavía no está publicado,
pero que ya está muy cerquita de

1389
01:13:55.780 --> 01:13:56.530
publicarse.

1390
01:13:57.370 --> 01:13:59.100
Tienen que ver con el registro de
entrada,

1391
01:14:00.150 --> 01:14:02.520
con los apuntes de la ciudadanía,

1392
01:14:02.820 --> 01:14:04.740
hacen el registro de entrada en
algunos casos.

1393
01:14:06.140 --> 01:14:09.230
Y cuando se registra de forma
general, y no se apunta apuntado

1394
01:14:09.350 --> 01:14:12.500
directamente a que unidad
departamendu va dirigida,

1395
01:14:13.080 --> 01:14:16.290
pues, hace falta clasificarlos, o de
falta

1396
01:14:16.540 --> 01:14:17.980
que alguien se le ha perdonado

1397
01:14:18.320 --> 01:14:21.980
el contenido del apunte para saber

1398
01:14:22.740 --> 01:14:23.060
pues

1399
01:14:23.460 --> 01:14:24.720
qué departamento, qué,

1400
01:14:25.220 --> 01:14:27.650
qué unidad que servicio es el que
tiene que responder.

1401
01:14:28.280 --> 01:14:31.310
Entonces hubo una propuesta y
estudiamos el caso de poder hacer un

1402
01:14:31.310 --> 01:14:34.040
clasificadora automático, para que en
esos casos,

1403
01:14:35.260 --> 01:14:38.800
pues, bueno, pudiera hacer la
clasificación y automáticamente fuera

1404
01:14:38.800 --> 01:14:40.180
directamente a su.

1405
01:14:40.960 --> 01:14:41.500
A su

1406
01:14:41.880 --> 01:14:42.480
unidad.

1407
01:14:43.420 --> 01:14:45.820
Es un caso de una herramienta de
automatización.

1408
01:14:46.500 --> 01:14:48.900
Tampoco tiene riesgo, porque, en todo
caso

1409
01:14:49.800 --> 01:14:53.130
el riesgo de que no elija a la unidad
adecuada,

1410
01:14:54.120 --> 01:14:58.530
y en ese caso a alguien le va a
procesar, y en todo caso lo tendría

1411
01:14:58.530 --> 01:14:59.550
que mover y demás,

1412
01:15:00.710 --> 01:15:04.140
como si lo hiciera una persona al
final no hay, no hay mucho cambio.

1413
01:15:04.660 --> 01:15:07.420
Sí que es verdad que este tipo de
herramientas, al margen ya, además

1414
01:15:07.420 --> 01:15:10.450
algo un poco de la parte de la ética,
pero sí que sí que traen,

1415
01:15:11.000 --> 01:15:14.900
hay ventajas en términos de
digitalización, en este caso, la

1416
01:15:14.900 --> 01:15:18.560
ventaja es que para poder procesar el
registro

1417
01:15:19.370 --> 01:15:21.080
hace falta muchas veces, que

1418
01:15:21.460 --> 01:15:22.720
a veces vienen en papel y demás,

1419
01:15:23.540 --> 01:15:27.350
hace falta escanearlo, parece un pase
de Perogrullo, pero, bueno, es así. Y

1420
01:15:27.350 --> 01:15:30.020
pasar el océano para entender el
contenido que hay.

1421
01:15:30.360 --> 01:15:34.200
Esto antiguamente con los registros
nos hacía. Ahora, gracias a este esta

1422
01:15:34.200 --> 01:15:37.470
herramienta obligatoriamente se pasa.
Entonces, es algo más de información

1423
01:15:37.470 --> 01:15:39.060
que tenemos.

1424
01:15:39.520 --> 01:15:43.210
Es verdad, es que estas herramientas
hay que hay que verlas en conjunto,

1425
01:15:43.210 --> 01:15:43.630
hay que ver

1426
01:15:44.020 --> 01:15:45.250
esa parte de

1427
01:15:46.200 --> 01:15:49.650
beneficios y demás, y si procede
hacerla, pero a veces

1428
01:15:49.960 --> 01:15:51.160
tienes alguna

1429
01:15:51.560 --> 01:15:54.290
ventajas o otras cuestiones de
automatización?

1430
01:15:55.800 --> 01:15:57.270
Que hay que proceder.

1431
01:15:57.660 --> 01:16:02.040
Y el último caso que me gustaría
comentar es un caso doble. Ese es el

1432
01:16:02.040 --> 01:16:02.460
más,

1433
01:16:02.660 --> 01:16:03.710
el más bonito

1434
01:16:04.340 --> 01:16:05.780
que tenemos entre manos,

1435
01:16:06.360 --> 01:16:07.380
y tiene que ver con

1436
01:16:07.700 --> 01:16:09.380
él con la valoración de dependencia,

1437
01:16:10.620 --> 01:16:11.580
que es el caso convencional.

1438
01:16:12.480 --> 01:16:13.680
Salió publicado en prensa.

1439
01:16:14.450 --> 01:16:14.770
Ahí.

1440
01:16:15.320 --> 01:16:17.750
El Departamento de Cuidados y
Políticas Sociales

1441
01:16:18.940 --> 01:16:19.990
quería mejorar

1442
01:16:20.460 --> 01:16:22.860
todo lo que es el proceso de
valoración de dependencia.

1443
01:16:24.500 --> 01:16:26.510
Hizo una propuesta

1444
01:16:26.680 --> 01:16:30.100
para ver si realmente, con los datos
que poseía,

1445
01:16:30.680 --> 01:16:31.940
pues se podía hacer

1446
01:16:32.520 --> 01:16:36.030
algo para intentar mejorar ese ese
proceso.

1447
01:16:38.060 --> 01:16:42.470
Lo primero fue, y aplicando un poco
el tema de gobernanza de datos,

1448
01:16:42.740 --> 01:16:46.400
descubrir que con el buen trabajo que
se había hecho en el departamento

1449
01:16:46.900 --> 01:16:48.250
en los últimos años,

1450
01:16:48.700 --> 01:16:49.750
realmente sí

1451
01:16:50.760 --> 01:16:52.740
se disponía de un conjunto de datos.

1452
01:16:54.360 --> 01:16:58.860
Bueno, pues que daba posibilidades
para poder estudiar y poner un.

1453
01:16:58.950 --> 01:17:00.840
Entrenar un modelo, en este caso,

1454
01:17:01.380 --> 01:17:01.920
para

1455
01:17:02.030 --> 01:17:03.910
que poder hacer una detección

1456
01:17:04.320 --> 01:17:05.940
a una predicción, mejor dicho,

1457
01:17:06.420 --> 01:17:07.920
del grado de dependencia.

1458
01:17:09.540 --> 01:17:09.750
Bien

1459
01:17:10.120 --> 01:17:10.450
pic.

1460
01:17:10.600 --> 01:17:14.920
Luego, tirando un poco más del hilo,
se vio que realmente el proceso, al

1461
01:17:14.920 --> 01:17:18.400
margen de que existe esta parte de
detección de grado,

1462
01:17:19.020 --> 01:17:22.140
normalmente estos elementos de
clasificación en los extremos

1463
01:17:22.500 --> 01:17:26.160
funcionan bien y en la parte
intermedia sube un poco menos.

1464
01:17:26.820 --> 01:17:27.960
Menos precisos.

1465
01:17:29.080 --> 01:17:33.100
Lo bueno que tiene este modelo en
particular es que con la detección

1466
01:17:33.100 --> 01:17:36.820
que hace de grado, te da también el
grado de confianza.

1467
01:17:37.020 --> 01:17:37.410
¿Ahora qué

1468
01:17:37.700 --> 01:17:42.590
la persona que revisa y demás pueda
ver si nos lo mismo que te esté dando

1469
01:17:42.590 --> 01:17:44.510
un 20%, que igual en esos casos

1470
01:17:44.860 --> 01:17:49.720
ni ni lo enseñas, o te está dando una
feria de un 90%, el propio algoritmo,

1471
01:17:49.990 --> 01:17:52.570
se autorregula esa de esa manera.

1472
01:17:53.560 --> 01:17:53.890
Bueno,

1473
01:17:54.620 --> 01:17:56.840
lo que se vio también es que el
proceso en sí mismo,

1474
01:17:58.540 --> 01:17:59.290
la valoración,

1475
01:17:59.760 --> 01:18:00.780
pues era un.

1476
01:18:01.640 --> 01:18:06.110
Un cuestionario muy largo y yo creo
que eran unos 200 y pico preguntas

1477
01:18:06.500 --> 01:18:07.880
y demás. Entonces intento

1478
01:18:08.160 --> 01:18:12.480
trabajar en esa línea, a ver de qué
manera también se podía hacer alguna

1479
01:18:12.480 --> 01:18:15.990
predicción, también en la relación de
lo que era él,

1480
01:18:16.480 --> 01:18:18.400
el cuestionario que se formula.

1481
01:18:19.020 --> 01:18:22.440
Y ahí, haciendo varias iteraciones,
porque

1482
01:18:23.060 --> 01:18:26.090
tipo de proyectos, normalmente a la
primera no sale, hay que ir afinando

1483
01:18:26.090 --> 01:18:26.420
mucho.

1484
01:18:27.720 --> 01:18:32.160
Se consiguió llegar a un cuestionario
guiado, que es como

1485
01:18:32.300 --> 01:18:33.270
lo denominamos,

1486
01:18:33.960 --> 01:18:35.070
que con unas

1487
01:18:35.320 --> 01:18:38.080
10 preguntas más o menos, lo máximo
10 preguntas,

1488
01:18:38.460 --> 01:18:39.270
más o menos, ya

1489
01:18:40.420 --> 01:18:42.790
saca lo que sería el cuestionado
general.

1490
01:18:43.480 --> 01:18:43.960
Ahí

1491
01:18:44.420 --> 01:18:49.520
rellena todo y luego está en la mano
del del evaluador.

1492
01:18:50.200 --> 01:18:51.280
Pues ya afinar.

1493
01:18:52.360 --> 01:18:52.990
Al final. Luego

1494
01:18:53.340 --> 01:18:55.370
no quiero decir que todas las
preguntas ya están, respondía de

1495
01:18:55.370 --> 01:18:56.070
forma automática,

1496
01:18:56.460 --> 01:18:57.780
pero sí que da una base

1497
01:18:58.200 --> 01:18:58.740
para qué.

1498
01:18:59.260 --> 01:19:04.120
Pues probablemente igual no hay que
incidir o no. No sea necesario que el

1499
01:19:04.120 --> 01:19:04.960
proceso de

1500
01:19:05.070 --> 01:19:05.540
dónde?

1501
01:19:06.030 --> 01:19:07.220
Evaluación en este caso,

1502
01:19:07.620 --> 01:19:09.960
pues era tan, tan largo y tan pesado.

1503
01:19:10.920 --> 01:19:13.620
En este, en este caso particular,

1504
01:19:14.300 --> 01:19:14.820
he mencionado.

1505
01:19:16.960 --> 01:19:19.510
Propusimos en práctica la parte de
gobierno, el dato que era fundamental

1506
01:19:19.510 --> 01:19:20.160
para poder

1507
01:19:20.670 --> 01:19:21.740
continuar.

1508
01:19:22.760 --> 01:19:26.630
Otra cuestión fundamental fue el
tema. El speech explica habilidad,

1509
01:19:26.630 --> 01:19:29.990
porque en este caso, pues sí que hay
un apoyo a la decisión, hay una

1510
01:19:29.990 --> 01:19:30.590
decisión.

1511
01:19:31.130 --> 01:19:34.020
Era fundamental. Aquí pudimos poner
en práctica

1512
01:19:35.180 --> 01:19:37.700
tanto lo que es las peluquería del
modelo en sí

1513
01:19:38.220 --> 01:19:42.180
como el poder, en un momento dado,
dar respuesta para un caso

1514
01:19:42.180 --> 01:19:43.350
particular, saber,

1515
01:19:43.700 --> 01:19:44.480
en realidad,

1516
01:19:45.920 --> 01:19:48.920
los pesos de que variables han tenido
en cuenta para llegar a esa

1517
01:19:48.920 --> 01:19:49.610
conclusión.

1518
01:19:50.280 --> 01:19:54.090
Fundamental para poder explicarlo. Y
como no podía ser de otra manera, el

1519
01:19:54.090 --> 01:19:54.470
concepto,

1520
01:19:55.460 --> 01:19:58.070
encima en in the loop, la persona en
el centro,

1521
01:19:58.660 --> 01:19:59.830
porque es fundamental,

1522
01:20:00.060 --> 01:20:01.560
no sea una herramienta automática,

1523
01:20:02.680 --> 01:20:04.600
tiene que ser, en todo caso, una
ayuda

1524
01:20:05.140 --> 01:20:05.650
para

1525
01:20:06.370 --> 01:20:07.150
que la

1526
01:20:07.420 --> 01:20:11.050
valoración en este caso, se haga de
forma más sencilla

1527
01:20:11.480 --> 01:20:13.880
y de esa manera, pues se puedan
llegar a hacer

1528
01:20:14.040 --> 01:20:15.630
más más valoraciones.

1529
01:20:16.460 --> 01:20:23.540
Aquí el foco final están en la
reducción de tiempos, el poder

1530
01:20:24.950 --> 01:20:27.940
hacer más valoraciones, pero sabemos
que además es un. Es un tema

1531
01:20:28.360 --> 01:20:29.050
que está en.

1532
01:20:29.410 --> 01:20:31.470
En crecimiento y es importante.

1533
01:20:32.760 --> 01:20:35.040
Bueno, pues poder apoyar en esa, en
esa línea.

1534
01:20:36.460 --> 01:20:40.150
Y al final lo que lo que acaba un
poco rizando, el rizo,

1535
01:20:41.360 --> 01:20:42.110
es lo que decía.

1536
01:20:42.860 --> 01:20:46.250
Al final, esos son herramientas,
depende mucho de la forma de

1537
01:20:46.740 --> 01:20:47.850
como las utilizamos.

1538
01:20:49.560 --> 01:20:53.400
Llega al punto que una vez que se ve
que la herramienta tiene, tiene su.

1539
01:20:54.340 --> 01:20:58.540
Su interés y que realmente todos que
provee son interesantes

1540
01:20:59.020 --> 01:21:00.130
y son fiables. Claro.

1541
01:21:01.360 --> 01:21:02.620
Pues se están

1542
01:21:04.040 --> 01:21:09.260
pensando en redefinir de alguna forma
el procedimiento, es decir, en qué

1543
01:21:09.260 --> 01:21:11.450
momento se utiliza la herramienta,
puedes

1544
01:21:12.660 --> 01:21:16.680
colocarla antes, después, siempre
teniendo en cuenta que los conceptos

1545
01:21:18.500 --> 01:21:19.460
supervisión

1546
01:21:20.170 --> 01:21:23.700
tienen que estar claros, pero que es
fundamental. Al final las personas

1547
01:21:23.700 --> 01:21:24.480
decidimos

1548
01:21:24.900 --> 01:21:29.310
como las queremos utilizar, en qué
momento y qué peso le queremos dar a

1549
01:21:29.310 --> 01:21:31.920
la decisión. No dejan de ser
herramientas que nos van a dar

1550
01:21:33.000 --> 01:21:34.140
facilidades o.

1551
01:21:37.660 --> 01:21:42.070
Hoy intentar mejorar los tiempos de
respuesta, etc.

1552
01:21:44.040 --> 01:21:48.000
Estos son unos casos. Quería comentar
que mirando al futuro,

1553
01:21:49.180 --> 01:21:52.840
vemos que realmente la parte de
acompañamiento es fundamental a la

1554
01:21:52.840 --> 01:21:54.550
hora de desplegar a este tipo de
herramientas

1555
01:21:56.300 --> 01:21:57.500
el conciencia miento,

1556
01:21:57.820 --> 01:22:00.250
tanto en el uso como incluso

1557
01:22:01.060 --> 01:22:05.440
ya no solo a la hora de desarrollar
los sistemas, sino que también en el

1558
01:22:05.440 --> 01:22:08.140
uso, sobretodo ahora con el auge de
la haya generativa

1559
01:22:09.520 --> 01:22:11.260
conocimiento de lo que hay detrás.

1560
01:22:12.480 --> 01:22:15.900
De no usarlo para cualquier cuestión,
porque al final, pues ahí un

1561
01:22:16.820 --> 01:22:19.970
un tema de sostenibilidad
fundamental, y creo que cada vez se

1562
01:22:19.970 --> 01:22:21.680
habla, se habla más de este tema,

1563
01:22:22.260 --> 01:22:23.820
como buen motivo, hay un auge

1564
01:22:24.100 --> 01:22:24.640
terrible,

1565
01:22:25.560 --> 01:22:27.210
mi generación de data center,

1566
01:22:27.680 --> 01:22:27.860
eh.

1567
01:22:28.460 --> 01:22:30.650
Sobre estos temas yo creo que está
muy bien

1568
01:22:31.180 --> 01:22:31.720
al día.

1569
01:22:32.600 --> 01:22:36.920
Y luego en lo que tiene que ver más
en un tema interno y asociado un poco

1570
01:22:36.920 --> 01:22:39.080
lo que marca el reglamento de
Inteligencia Artificial,

1571
01:22:39.600 --> 01:22:42.360
todo lo que tiene que ver con la
alfabetización,

1572
01:22:42.750 --> 01:22:45.500
la formación en el uso de estas
herramientas,

1573
01:22:47.700 --> 01:22:50.940
la supervisión. Entonces, esos, esos
conceptos.

1574
01:22:53.240 --> 01:22:54.080
¿Cómo es? Por mi parte?

1575
01:23:07.060 --> 01:23:07.570
Bueno, pues

1576
01:23:08.960 --> 01:23:10.700
terminamos las presentaciones y
ahora,

1577
01:23:11.080 --> 01:23:14.290
así que iniciamos una conversación,

1578
01:23:14.840 --> 01:23:18.050
un turno de preguntas, de
comentarios, de diálogo

1579
01:23:19.030 --> 01:23:21.760
abierto para todos ustedes. Desde
luego,

1580
01:23:23.580 --> 01:23:28.230
me ha gustado mucho las dos
presentaciones, y sobretodo, además,

1581
01:23:28.300 --> 01:23:31.050
voy a permitir hacer una primera
pregunta para que vayan pensando

1582
01:23:31.050 --> 01:23:37.080
ustedes las suyas, pero Gorka estaba
hablando precisamente de algo que es

1583
01:23:37.080 --> 01:23:41.730
una auténtica innovación, porque,
hasta donde yo sé, la diputación es

1584
01:23:42.000 --> 01:23:46.080
la única institución que está
publicando de manera transparente, no

1585
01:23:46.080 --> 01:23:49.440
se puede consultar a través de la web
¿cuál es precisamente la evaluación

1586
01:23:49.440 --> 01:23:54.330
de impacto ético de esos desarrollos,
que se han hecho de programas propios

1587
01:23:54.330 --> 01:23:58.860
de Inteligencia Artificial, con las
especificaciones técnicas, con las

1588
01:23:58.860 --> 01:24:02.700
preguntas que se han hecho, de
motivación, con el impacto también

1589
01:24:02.700 --> 01:24:06.860
que puede tener con respecto al
consumo y a lo que tiene que ver con

1590
01:24:06.990 --> 01:24:09.960
el impacto medioambiental ecológico.
Y la verdad es que

1591
01:24:10.840 --> 01:24:14.440
para los que trabajamos en. Desde el
plano teórico, en aspectos de ética

1592
01:24:14.710 --> 01:24:18.700
aplicada, porque nos interesa
precisamente la transformación de

1593
01:24:18.700 --> 01:24:22.150
diferentes ámbitos de la sociedad que
se ha aplicado en la diputación,

1594
01:24:22.440 --> 01:24:27.810
pues, yo estoy encantado, y de verdad
es que quiero felicitaros por. Por

1595
01:24:27.810 --> 01:24:29.280
vuestra, por vuestra.

1596
01:24:30.040 --> 01:24:32.020
Bueno, vuestro trabajo y lo que
habéis hecho.

1597
01:24:32.680 --> 01:24:36.340
Y en ese sentido sí que quería
preguntarle a. A Gorka,

1598
01:24:37.480 --> 01:24:41.770
como se percibe desde la perspectiva
de los técnicos, de los que estáis en

1599
01:24:41.770 --> 01:24:46.030
el ámbito de la proclamación y demás,
estas cosas que se nos ocurren a

1600
01:24:46.030 --> 01:24:51.280
veces discutimos la ciudadanía, o los
que nos dedicamos a la ética o el

1601
01:24:51.280 --> 01:24:54.850
agua, la filosofía, porque a veces
uno piensa. Bueno, esto lo pueden

1602
01:24:54.850 --> 01:25:01.030
considerar una intromisión, una una
cosa que fuera de lugar, y lo habéis

1603
01:25:01.030 --> 01:25:03.760
llevado a cabo, pero me apetece ver
un poco entender cuál es también

1604
01:25:03.760 --> 01:25:06.700
nuestra percepción, para mejorar
precisamente esa comunicación que

1605
01:25:06.700 --> 01:25:07.330
debemos tener

1606
01:25:08.010 --> 01:25:10.770
todos los agentes que estamos
implicados en el desarrollo de

1607
01:25:10.770 --> 01:25:11.490
tecnologías

1608
01:25:12.040 --> 01:25:13.330
en este ámbito.

1609
01:25:13.960 --> 01:25:18.850
Y luego también ya le dejó la
pregunta formulada para para Daniel,

1610
01:25:19.700 --> 01:25:20.000
eh.

1611
01:25:20.560 --> 01:25:26.320
¿Hasta dónde podemos nos pueden
gobernar los algoritmos? Has puesto

1612
01:25:26.320 --> 01:25:31.420
un poco algún ejemplo, pero me
gustaría algo concreto, ¿qué ámbito,

1613
01:25:31.420 --> 01:25:37.510
días, o qué situación dirías que que
habría que excluir? Hay un debate que

1614
01:25:37.510 --> 01:25:40.900
más se planteó, lo planteó en alguna,
en algo, en alguna charla

1615
01:25:42.080 --> 01:25:45.290
sobre la justicia, y en concreto la
justicia penal.

1616
01:25:46.310 --> 01:25:50.570
Si sería un ámbito en el cual
deberíamos delegar

1617
01:25:52.080 --> 01:25:56.160
en Inteligencia artificial ¿o no? Hay
una película de hace un par de años

1618
01:25:56.340 --> 01:26:00.060
que se llamaba así, Justicia
artificial y que plantea un poco, en

1619
01:26:00.060 --> 01:26:01.650
teoría, este, este asunto,

1620
01:26:02.100 --> 01:26:04.560
y no deja de ser tampoco.

1621
01:26:04.940 --> 01:26:07.760
Yo tengo una respuesta que me dio una
persona que parece muy interesante

1622
01:26:07.760 --> 01:26:09.740
que luego lo comentaremos, pero
bueno, Gorka,

1623
01:26:10.760 --> 01:26:14.390
yo me quedo con la pregunta. Fácil o
difícil para Daniel.

1624
01:26:16.620 --> 01:26:18.570
Yo he de confesar que

1625
01:26:19.500 --> 01:26:21.150
al principio fue un poco de vértigo,

1626
01:26:22.880 --> 01:26:26.710
al ver un poco lo que nos venía
encima, no al empezar a leer el

1627
01:26:26.750 --> 01:26:30.830
código y en esa presentación, que el
borrador que estuvo aquí,

1628
01:26:32.120 --> 01:26:33.770
la primera reacción fue

1629
01:26:34.540 --> 01:26:35.110
ver a ver.

1630
01:26:35.620 --> 01:26:36.340
Kikek.

1631
01:26:36.620 --> 01:26:39.080
Y más, vamos a tener que hacen los
proyectos

1632
01:26:39.800 --> 01:26:42.470
para tener en cuenta toda la parte
ésta.

1633
01:26:43.780 --> 01:26:46.300
Pero luego, cuando cuando estuvimos,

1634
01:26:47.950 --> 01:26:51.270
ponen los poniéndolo, este formulario
que decía y demás,

1635
01:26:51.860 --> 01:26:52.310
eh

1636
01:26:52.760 --> 01:26:56.930
fuimos cogiendo entre todos, entre
todos los que hemos participado ahí,

1637
01:26:57.800 --> 01:26:59.810
yo creo que es un enfoque bastante
práctico

1638
01:27:00.340 --> 01:27:06.160
y que, a la larga nos está sirviendo
para, de alguna manera, pensar mejor

1639
01:27:06.160 --> 01:27:07.510
las cosas, porque,

1640
01:27:07.840 --> 01:27:08.440
es verdad,

1641
01:27:09.580 --> 01:27:12.970
la parte técnica, siempre tiramos un
poco pues a resolver el problema,

1642
01:27:13.330 --> 01:27:15.900
que ya pues hay una serie de
dificultades y demás,

1643
01:27:16.700 --> 01:27:17.270
pero.

1644
01:27:17.900 --> 01:27:19.670
Pero aquí hay algo más.

1645
01:27:20.800 --> 01:27:21.930
Va un poco más allá,

1646
01:27:22.420 --> 01:27:24.310
y eso es lo que realmente todo esto,
e

1647
01:27:24.690 --> 01:27:28.170
nos ayuda. Si que es verdad que con
la parte de publicación,

1648
01:27:29.080 --> 01:27:30.340
la verdad es que

1649
01:27:31.160 --> 01:27:32.060
así lo comentábamos.

1650
01:27:33.040 --> 01:27:36.700
Pensábamos que la regulación y va a
llegar y que iba a ser algo

1651
01:27:36.700 --> 01:27:37.390
obligatorio.

1652
01:27:37.980 --> 01:27:40.310
Yo todavía no lo descarto, pero
todavía no he llegado.

1653
01:27:40.960 --> 01:27:43.900
Que sea obligatorio, tendrá que
publicar y que haya un registro

1654
01:27:44.420 --> 01:27:46.340
ya, a otro nivel y demás.

1655
01:27:47.160 --> 01:27:52.170
Entonces, optamos por por hacer algo
donde ya tuviéramos posibilidad de

1656
01:27:52.170 --> 01:27:54.510
publicar y era el portal de
transparencia.

1657
01:27:56.580 --> 01:27:58.050
Entonces, en la parte de buen
gobierno,

1658
01:27:58.620 --> 01:28:02.700
principalmente incluirlo ahí. Y la
verdad es que el encaje es perfecto.

1659
01:28:03.460 --> 01:28:04.060
Ez da,

1660
01:28:04.660 --> 01:28:07.450
porque va muy ligado con toda la
partida de transparencia y, bueno,

1661
01:28:07.570 --> 01:28:08.950
parece que está funcionando.

1662
01:28:09.720 --> 01:28:14.340
Zer moduz? ¿Habéis adelantado a la
aplicación del propio reglamento, de

1663
01:28:14.340 --> 01:28:18.990
lo que pueda determinar la Agencia
Española de Supervisión? Era ella. Y

1664
01:28:19.380 --> 01:28:21.840
yo creo que eso también es un
elemento que genera confianza, osea

1665
01:28:21.840 --> 01:28:22.620
si se conoce,

1666
01:28:22.900 --> 01:28:26.110
y has dicho que salió también
publicado en prensa, y creo que eso

1667
01:28:26.110 --> 01:28:30.070
es una. Eso genera confianza en las
instituciones

1668
01:28:30.360 --> 01:28:33.150
y dentro de las situaciones en este
proceso, que tiene que ver con el uso

1669
01:28:33.150 --> 01:28:36.120
de tecnologías basadas en
inteligencia artificial.

1670
01:28:36.860 --> 01:28:37.250
Daniel,

1671
01:28:37.830 --> 01:28:42.080
¿qué me dices? A ver dónde nos
aplicarías la gobernanza algorítmica?

1672
01:28:42.420 --> 01:28:42.750
Bueno,

1673
01:28:43.140 --> 01:28:47.850
pedirle a un filósofo que concrete
más es como pedirle que traicione,

1674
01:28:48.870 --> 01:28:52.620
traicionar sus principios y,
sobretodo, abandonen su zona de

1675
01:28:52.620 --> 01:28:53.160
comodidad.

1676
01:28:54.360 --> 01:28:55.410
Ni. No.

1677
01:28:56.380 --> 01:28:59.170
Yo. Yo, yo soy un hombre de
principios, no de concreciones.

1678
01:28:59.230 --> 01:28:59.500
Entonces,

1679
01:29:00.520 --> 01:29:03.430
no hay que ponerlo todo perdido de
principios como son. Es decir, el

1680
01:29:03.430 --> 01:29:05.410
sentido de. De marcos,

1681
01:29:06.900 --> 01:29:09.510
soluciones general es más que de
casos concretos.

1682
01:29:10.520 --> 01:29:10.880
I

1683
01:29:11.480 --> 01:29:13.370
hoi ba, hoi ba. Estuvo mucho de
películas, no

1684
01:29:16.860 --> 01:29:20.340
has mencionado a Cristiano, ha la
película Justizia Artificial. A mí no

1685
01:29:20.340 --> 01:29:21.510
me gusta esa película.

1686
01:29:22.180 --> 01:29:22.720
¿Por qué?

1687
01:29:23.600 --> 01:29:26.620
Nos metían en el marco de una
confrontación

1688
01:29:27.060 --> 01:29:27.770
entre

1689
01:29:28.260 --> 01:29:32.790
manos que son arbitrarios y máquinas
que son exactas, o al revés?

1690
01:29:33.090 --> 01:29:33.540
Máquinas.

1691
01:29:34.120 --> 01:29:36.420
Yo, yo, lo que yo.

1692
01:29:39.150 --> 01:29:40.470
Respondería esas cuestiones.

1693
01:29:42.420 --> 01:29:43.650
Es verdad que los humanos.

1694
01:29:44.690 --> 01:29:46.260
Es verdad que las máquinas tienen
sesgos

1695
01:29:46.740 --> 01:29:49.350
y es verdad que tienen sus
arbitrariedades,

1696
01:29:50.280 --> 01:29:53.070
pero nosotros también, nosotros, los
humanos también.

1697
01:29:53.960 --> 01:29:56.390
No estoy haciendo referencia a
ninguna sentencia en ningún.

1698
01:29:57.500 --> 01:29:57.590
Sí.

1699
01:29:59.620 --> 01:30:02.650
De ningún juez, nada. O sea, es una
cosa puramente teórico, lo estoy

1700
01:30:02.650 --> 01:30:03.610
abandonando gizona,

1701
01:30:04.180 --> 01:30:06.220
y cómoda, de los principios, pero

1702
01:30:07.670 --> 01:30:08.960
nos vendría muy bien.

1703
01:30:12.570 --> 01:30:16.440
Intentar combinar ambos asuntos. Por
ejemplo, esta broma que si hace

1704
01:30:16.440 --> 01:30:17.760
bueno, broma, pero que es real,

1705
01:30:18.860 --> 01:30:21.920
está bien estudiado, ¿que las
sentencias de los tribunales

1706
01:30:22.160 --> 01:30:25.580
suelen ser más duras, no recuerdo
ahora muy bien. Tú no te lo he oído

1707
01:30:25.580 --> 01:30:29.060
alguna vez a ti. Cuando uno tiene
hambre, tiene hambre, si, por lo

1708
01:30:29.060 --> 01:30:31.430
visto, cuando juez tiene hambre
suelen ser más duro que cuando el

1709
01:30:31.430 --> 01:30:35.300
juez no tiene al menos eso, haces una
estadística, está muy estudiado. Y

1710
01:30:35.300 --> 01:30:35.570
claro,

1711
01:30:36.820 --> 01:30:40.520
todas las sentencias, su grado de
durezas, si es que esto se puede

1712
01:30:40.520 --> 01:30:40.820
medir

1713
01:30:41.300 --> 01:30:43.340
y las horas en las que se emitieron,

1714
01:30:43.720 --> 01:30:45.220
te salen unas correlaciones.

1715
01:30:46.240 --> 01:30:50.020
Que son. Humano, es muy humanas. No
es verdad que los humanos

1716
01:30:50.680 --> 01:30:55.180
tomamos, somos más herederos en un
momento y en otros. Es decir, que a

1717
01:30:55.180 --> 01:30:57.250
veces se habla que la caja negra de
los algoritmos,

1718
01:30:58.160 --> 01:31:00.500
pero a mí me gustaría hablar de la
caja negra de los jueces.

1719
01:31:01.700 --> 01:31:04.930
La caja negra de los políticos o de
la caja negra de los profesores.

1720
01:31:05.540 --> 01:31:07.280
No voy a abandonar ni profesional.

1721
01:31:08.900 --> 01:31:10.550
Yo tengo algún sesgo

1722
01:31:11.420 --> 01:31:13.940
corrigiendo exámenes. Cuando
exámenes,

1723
01:31:14.280 --> 01:31:16.230
corrigiendo exámenes, me di cuenta

1724
01:31:16.800 --> 01:31:21.990
de que solía tender a ser más severo
en la corrección

1725
01:31:22.500 --> 01:31:24.000
al principio que al final,

1726
01:31:24.240 --> 01:31:27.390
si mí me pasaba y seguramente a otro
le pasa al revés.

1727
01:31:28.740 --> 01:31:29.370
Y entonces,

1728
01:31:30.120 --> 01:31:31.380
como corriges eso,

1729
01:31:31.720 --> 01:31:33.520
pues haciendo una doble corrección,

1730
01:31:34.970 --> 01:31:37.420
mordí y luego vas en igortzen
contrario.

1731
01:31:38.220 --> 01:31:39.210
Y, bueno,

1732
01:31:40.160 --> 01:31:41.720
creo que es más sutil pensar

1733
01:31:41.820 --> 01:31:42.300
qué.

1734
01:31:43.240 --> 01:31:46.990
Y que nadie tiene el monopolio del
adjetivo iban, y las máquinas,

1735
01:31:47.560 --> 01:31:50.890
ni en los humanos, y tratar de hacer
una combinación.

1736
01:31:51.720 --> 01:31:52.260
Y

1737
01:31:53.280 --> 01:31:55.290
si me dejáis que pongan el ejemplo de
otra película.

1738
01:31:56.760 --> 01:32:00.080
Y aquí nos vamos. Al cine, al
Zinemaldi.

1739
01:32:01.440 --> 01:32:02.850
Ai, ai, ai, Naz.

1740
01:32:04.010 --> 01:32:05.130
Ponen en clase, porque

1741
01:32:06.180 --> 01:32:07.500
es muy ilustrativo y tal.

1742
01:32:08.130 --> 01:32:08.810
Sí.

1743
01:32:09.160 --> 01:32:09.610
¿Qué es?

1744
01:32:10.280 --> 01:32:11.960
¿Habéis visto la hora más oscura?

1745
01:32:13.880 --> 01:32:15.370
La película que la que Churchill, de
cine,

1746
01:32:15.820 --> 01:32:16.690
decide,

1747
01:32:17.660 --> 01:32:18.170
decide

1748
01:32:18.500 --> 01:32:20.030
y suele hacer con fragilidad,

1749
01:32:21.360 --> 01:32:23.520
contra lo que le dicen las máquinas.

1750
01:32:24.560 --> 01:32:26.330
Es decir, los expertos,

1751
01:32:26.580 --> 01:32:30.270
los miembros del partido,
Administración, los militares, todo

1752
01:32:30.270 --> 01:32:32.460
el mundo me dice No, la guerra y
posible.

1753
01:32:33.240 --> 01:32:37.230
Y entonces el MOMEN pronunció aquel
famoso discurso de sangre, sudor y

1754
01:32:37.230 --> 01:32:39.450
lágrimas. Nadie le aplaudieron el
Parlamento.

1755
01:32:40.560 --> 01:32:41.850
¿Y qué es lo que hace?

1756
01:32:42.240 --> 01:32:43.200
¿Recordáis la escena?

1757
01:32:44.580 --> 01:32:45.360
Baja al metro.

1758
01:32:46.100 --> 01:32:48.140
Osea si quiere saber lo que piensa la
gente, no,

1759
01:32:48.760 --> 01:32:51.280
porque se da cuenta de que su entorno
no es la gente.

1760
01:32:52.420 --> 01:32:54.310
Y se le ocurre una idea excelente y
que es.

1761
01:32:54.680 --> 01:32:57.590
Bai, ba, al metro. Por cierto, tiene
que preguntar cómo se va el metro,

1762
01:32:57.590 --> 01:32:58.490
porque no tiene ni idea

1763
01:33:00.080 --> 01:33:02.870
de dónde está el metro. No ha he
cogido nunca. Va al metro.

1764
01:33:03.780 --> 01:33:05.130
Se fuma un puro en un baúl.

1765
01:33:06.430 --> 01:33:07.480
Está muy bien además,

1766
01:33:07.800 --> 01:33:10.590
muy bien narrado, porque hay una gran
diversidad de Messi.

1767
01:33:11.880 --> 01:33:16.230
Hay una mujer en mayo y un niño
negro, hay un trabajador,

1768
01:33:16.700 --> 01:33:20.810
ricos, no hay, evidentemente. Pero
bueno, y entonces hace una pequeña

1769
01:33:20.810 --> 01:33:21.170
encuesta.

1770
01:33:22.120 --> 01:33:24.910
Esto se da cuenta de que los
británicos estaban mucho más

1771
01:33:24.910 --> 01:33:26.320
dispuestos a ir a la guerra

1772
01:33:26.820 --> 01:33:28.170
y a defender la democracia,

1773
01:33:29.000 --> 01:33:34.640
de lo que le decía su partido, su
Gobierno, y la nuestra haciendo los

1774
01:33:34.640 --> 01:33:35.090
militares.

1775
01:33:35.740 --> 01:33:36.100
Bueno,

1776
01:33:37.100 --> 01:33:39.110
no sé si esto es una concreción,

1777
01:33:39.760 --> 01:33:41.800
o me he salido por la tangente, pero.

1778
01:33:42.820 --> 01:33:43.570
Y

1779
01:33:44.420 --> 01:33:45.410
hay que pensar

1780
01:33:46.240 --> 01:33:49.720
en cada decisión, si el imput que uno
recibe,

1781
01:33:50.440 --> 01:33:54.400
y es un imput adecuado, o está
contaminado

1782
01:33:54.860 --> 01:33:56.960
por un principio de selección
arbitraria.

1783
01:33:58.080 --> 01:34:01.230
Sí, bueno, por eso es importante lo
que comentaba antes también Gorka,

1784
01:34:01.580 --> 01:34:04.980
que son herramientas de apoyo, en el
sentido que tampoco tenemos que

1785
01:34:04.980 --> 01:34:09.630
renunciar a una supervisión o un
análisis crítico de sus resultados,

1786
01:34:09.930 --> 01:34:12.600
que en algún caso pueden dar incluso
un grado mayor o menor de

1787
01:34:12.600 --> 01:34:16.020
confiabilidad. El problema es que hay
un fenómeno cognitivo que se estudia

1788
01:34:16.020 --> 01:34:20.250
mucho, que es la misma la pereza meta
cognitiva, la tendencia a confiar

1789
01:34:20.550 --> 01:34:21.210
cada vez más

1790
01:34:21.620 --> 01:34:24.320
en lo que dicen las máquinas, porque,
bueno, pues

1791
01:34:24.660 --> 01:34:25.770
¿cómo lo dicen las máquinas?

1792
01:34:27.120 --> 01:34:30.630
Pues así. En el caso de la justicia
también hay otros elementos que

1793
01:34:30.630 --> 01:34:32.940
tienen que ver con el propio
procedimiento. El derecho a ser

1794
01:34:33.570 --> 01:34:37.650
interpelado por una, por un humano y
no por una máquina. Hay personas que

1795
01:34:37.650 --> 01:34:41.040
trabajan en el ámbito del Derecho
procesal que dicen que, bueno, que.

1796
01:34:41.240 --> 01:34:44.820
Que hay una falta de respeto cuando
uno es juzgado únicamente por.

1797
01:34:45.380 --> 01:34:46.200
Por una máquina,

1798
01:34:46.580 --> 01:34:52.070
y en el caso de yo colaboro con una
asociación que

1799
01:34:53.330 --> 01:34:57.560
vamos a cárceles a dar formación,
cultura.

1800
01:34:58.730 --> 01:35:02.390
Y un preso me dio una respuesta muy
interesante con respecto. Ya sabéis

1801
01:35:02.390 --> 01:35:03.590
que aquí nadie es culpable.

1802
01:35:04.920 --> 01:35:08.620
Medieval. La mejor respuesta con
respecto a esta pregunta de la

1803
01:35:08.620 --> 01:35:09.610
justicia artificial,

1804
01:35:09.880 --> 01:35:12.580
porque se habló mucho de los sesgos
de los hechos. También tenían los.

1805
01:35:12.940 --> 01:35:15.680
Los jueces, las juezas, las personas
que tenemos.

1806
01:35:16.720 --> 01:35:19.510
Lo mismo que puede tener la
inteligencia artificial. Su respuesta

1807
01:35:19.510 --> 01:35:19.780
fue

1808
01:35:20.080 --> 01:35:23.320
que si fuera culpable, sólo en ese
caso

1809
01:35:23.720 --> 01:35:26.900
preferiría que juzgará un humano y no
una máquina.

1810
01:35:27.320 --> 01:35:27.830
¿Por qué

1811
01:35:28.100 --> 01:35:28.700
el humano

1812
01:35:29.320 --> 01:35:33.490
podía equivocarse más? Y sobretodo
podía tener cierto grado de empatía,

1813
01:35:33.610 --> 01:35:35.260
cosa que la máquina no iba a tener

1814
01:35:35.580 --> 01:35:38.580
en ningún caso, era un poco la
respuesta que daba el no. Si fuera

1815
01:35:38.580 --> 01:35:42.120
culpable, si fuera inocente, por
supuesto, la máquina, que iba a ser

1816
01:35:42.330 --> 01:35:46.590
objetiva y fiable, no será un poco.
El argumento quedaba, pero bueno, me

1817
01:35:46.590 --> 01:35:48.600
pareció muy. Puedo.

1818
01:35:49.060 --> 01:35:50.290
Hay que concretar un poco más.

1819
01:35:50.820 --> 01:35:53.640
Sí, sin ánimo de entrar en ninguna
polémica, pero

1820
01:35:54.200 --> 01:35:56.900
es que me he acordado ahora mismo. No
resiste la tentación

1821
01:35:57.570 --> 01:36:00.650
contarlo. Un amigo mío me dice. Oye,
el otro día

1822
01:36:01.280 --> 01:36:02.540
metí la sentencia

1823
01:36:03.060 --> 01:36:04.560
del fiscal general del Estado,

1824
01:36:05.240 --> 01:36:06.380
la metí en el chat, etcétera.

1825
01:36:06.720 --> 01:36:07.980
Osea, le pregunté al Zinateke.

1826
01:36:09.120 --> 01:36:12.540
Y si tú estuvieras juzgando un
trabajo con criterios académicos

1827
01:36:12.980 --> 01:36:18.920
acerca de presunción de inocencia,
indicios. Ese tercer

1828
01:36:19.760 --> 01:36:20.720
duda razonable.

1829
01:36:21.620 --> 01:36:23.750
Conceptos que en la carrera se
estudia muy bien.

1830
01:36:24.420 --> 01:36:25.230
Y

1831
01:36:25.700 --> 01:36:26.990
aquí tienes una sentencia.

1832
01:36:27.380 --> 01:36:29.240
Dime qué te parecen, y desde este
punto de vista,

1833
01:36:32.200 --> 01:36:33.310
destrozó la sentencia.

1834
01:36:34.000 --> 01:36:34.630
Altxa, jakiteko.

1835
01:36:35.400 --> 01:36:36.120
Quiero tocarte.

1836
01:36:37.040 --> 01:36:38.360
Nik uste dut. Datozen ha sentenciado.

1837
01:36:40.480 --> 01:36:41.050
En mí.

1838
01:36:42.100 --> 01:36:43.150
Podía haberlo hecho. Así.

1839
01:36:43.460 --> 01:36:44.030
Podían haberlo hecho.

1840
01:36:46.820 --> 01:36:47.840
Yo hubiese, os voy a decir sí.

1841
01:36:49.480 --> 01:36:53.380
Bueno, bueno, pero lo que ha ganado
ha sido la sentencia. No hay voto

1842
01:36:53.380 --> 01:36:53.860
particular

1843
01:36:54.200 --> 01:36:54.800
y, por tanto,

1844
01:36:56.600 --> 01:36:57.560
lo que se ha impuesto es eso.

1845
01:36:59.100 --> 01:37:02.610
Bueno, hay varias preguntas
expedidas. Usted, por favor, no. Por

1846
01:37:02.610 --> 01:37:02.940
aquí.

1847
01:37:07.480 --> 01:37:08.410
Desde que hemos,

1848
01:37:10.340 --> 01:37:13.940
desde que hemos empezado con de
Inteligencia Artificial, se ha estado

1849
01:37:13.940 --> 01:37:15.680
hablando de los riesgos,

1850
01:37:16.240 --> 01:37:20.200
de que la voluntad ética no es
suficiente y que hace falta

1851
01:37:20.200 --> 01:37:20.890
reglamentar.

1852
01:37:22.340 --> 01:37:23.690
Ante la situación,

1853
01:37:24.580 --> 01:37:26.140
que se pueda producir un daño.

1854
01:37:27.140 --> 01:37:27.800
Basado.

1855
01:37:28.540 --> 01:37:29.380
Una decisión.

1856
01:37:31.000 --> 01:37:32.980
Tras consultar a la inteligencia
artificial,

1857
01:37:33.540 --> 01:37:35.070
a quién se consideraría

1858
01:37:35.400 --> 01:37:37.650
responsable de responsabilidad?

1859
01:37:38.000 --> 01:37:38.600
¿Nahi duzu?

1860
01:37:40.560 --> 01:37:41.350
Aunque esango diat.

1861
01:37:44.640 --> 01:37:45.540
¿La institución?

1862
01:37:49.430 --> 01:37:49.670
Bueno,

1863
01:37:50.990 --> 01:37:52.250
el usuario, ese es el que.

1864
01:37:53.600 --> 01:37:55.670
Iñaki, si el usuario es el Kebab,

1865
01:37:55.980 --> 01:37:59.520
al recibir el daño, no sería el
responsable en principio, porque es

1866
01:37:59.520 --> 01:38:00.900
el que, el que demanda

1867
01:38:01.620 --> 01:38:03.000
a un daño a terceros.

1868
01:38:03.620 --> 01:38:05.900
De todas formas, es el problema de la
responsabilidad, es uno de los

1869
01:38:05.900 --> 01:38:06.500
problemas

1870
01:38:07.780 --> 01:38:11.620
propios de la inteligencia
artificial, pero ahora mismo, en

1871
01:38:11.620 --> 01:38:14.860
principio, por ejemplo, en la
Diputación Foral de Gipuzkoa sí

1872
01:38:14.860 --> 01:38:19.660
desarrolla una aplicación y produce y
produce algún tipo de prejuicio.

1873
01:38:19.870 --> 01:38:23.860
Tiene que tener, o, si tal, que tenga
un plan de. Se habla de mitigación de

1874
01:38:23.860 --> 01:38:27.160
riesgos y de compensación de daños.
Es decir, es la institución que lo ha

1875
01:38:27.160 --> 01:38:30.640
desarrollado y la está utilizando, la
que es en ese caso responsable.

1876
01:38:31.080 --> 01:38:34.620
En otros, en otros casos, es mucho
más complejo, porque,

1877
01:38:36.460 --> 01:38:36.820
claro,

1878
01:38:37.480 --> 01:38:41.740
no, pero depende, claro del ámbito y
el contexto. Estos ha planteado mucho

1879
01:38:41.740 --> 01:38:45.640
con respecto al tema del
aseguramiento de los vehículos sin

1880
01:38:45.640 --> 01:38:46.420
conductor, no

1881
01:38:46.740 --> 01:38:51.090
que en ese caso, quien se hace
responsable de que aquel nivel,

1882
01:38:51.390 --> 01:38:54.060
porque hay diferentes agentes, como
les he dicho antes, la inteligencia

1883
01:38:54.060 --> 01:38:57.510
artificial es una inteligencia
distribuida, y, por lo tanto, en este

1884
01:38:57.510 --> 01:39:00.780
caso la responsabilidad también es
difícil de determinar a quién

1885
01:39:00.870 --> 01:39:04.500
imputarla, y, por lo tanto, sobre
quién recaería algún tipo de

1886
01:39:04.500 --> 01:39:05.220
compensación.

1887
01:39:05.860 --> 01:39:07.570
Iñaki, ¿tú querías comentar algo
sobre esto?

1888
01:39:09.720 --> 01:39:11.160
Ay, sí.

1889
01:39:13.590 --> 01:39:14.370
Da igual. Bueno,

1890
01:39:15.800 --> 01:39:19.010
gracias. No solamente quería
felicitaros a los ponentes y a la

1891
01:39:19.010 --> 01:39:19.640
diputación,

1892
01:39:20.320 --> 01:39:21.580
especialmente por

1893
01:39:22.140 --> 01:39:25.420
por la negativa de haber ido por
delante de la regulación, no

1894
01:39:26.440 --> 01:39:30.010
y aplaudo la pregunta del compañero.
Me parece que el riesgo de la

1895
01:39:30.010 --> 01:39:32.830
regulación, y otra, como lo veo, es
que vaya tarde.

1896
01:39:35.440 --> 01:39:38.400
Todos tenemos claro, es estar sala,
aseguró aquella máxima famosa.

1897
01:39:39.060 --> 01:39:41.700
Todo lo que técnicamente es posible
no tiene porque ser éticamente

1898
01:39:41.700 --> 01:39:42.270
aceptable.

1899
01:39:44.980 --> 01:39:45.940
Muchos años que

1900
01:39:47.300 --> 01:39:47.480
lo.

1901
01:39:47.980 --> 01:39:48.670
Sus padres,

1902
01:39:49.800 --> 01:39:49.920
NAHI,

1903
01:39:50.440 --> 01:39:54.160
que opta por reproducción asistida,
pueden elegir el sexo. Técnicamente,

1904
01:39:54.160 --> 01:39:54.730
hace mucho,

1905
01:39:55.330 --> 01:39:56.430
se puede hacer sexo

1906
01:39:57.340 --> 01:40:01.990
de su bebe, y éticamente reprobable,
sino que está prohibido incluso

1907
01:40:02.490 --> 01:40:04.610
la actividad privada de los centros
de reproducción asistida.

1908
01:40:05.060 --> 01:40:08.090
Osea que yo soy de una prohibición
que afecta a la Administración

1909
01:40:08.090 --> 01:40:09.320
pública, que parece que

1910
01:40:10.120 --> 01:40:12.390
la privada tampoco se puede hacer el
Eurofighter.

1911
01:40:13.400 --> 01:40:17.690
Y creo que la ayuda tiene que también
tener. Estoy seguro que tienen, por

1912
01:40:17.690 --> 01:40:19.310
mucho que Daniel no ha querido
concretar

1913
01:40:20.160 --> 01:40:21.150
cosas más concretas.

1914
01:40:21.850 --> 01:40:23.800
Cuestiones que van a tener que
prohibirse.

1915
01:40:25.380 --> 01:40:27.660
Sobretodo en el uso, yo creo que es.

1916
01:40:27.940 --> 01:40:30.790
Es ponerle puertas al campo, al
desafío puramente tecnológico,

1917
01:40:31.890 --> 01:40:37.020
del manejo del big data, del
procesamiento de datos a lo bestia, y

1918
01:40:37.020 --> 01:40:41.460
eso que va a vivir a más, pero en el
uso que se debe esa tecnología tiene

1919
01:40:41.460 --> 01:40:43.680
que haber límites. Eso está claro, lo
habéis dicho, que la afición.

1920
01:40:45.440 --> 01:40:46.890
Otra cosa que quería comentaros, y
ez,

1921
01:40:47.200 --> 01:40:47.560
eh.

1922
01:40:48.100 --> 01:40:51.160
Uno de los componentes fundamentales
de la práctica es la conciencia,

1923
01:40:51.900 --> 01:40:53.040
y esto es la identidad.

1924
01:40:54.200 --> 01:40:56.310
El piloto. Ya hacía un tiempo y en la
radio

1925
01:40:56.860 --> 01:40:59.830
hago un escritor con cierta fama que
jugando con su GPS

1926
01:41:00.800 --> 01:41:01.130
USU,

1927
01:41:01.380 --> 01:41:02.790
es decir, con su GPS.

1928
01:41:04.340 --> 01:41:05.750
Bueno, lo estuvo.

1929
01:41:06.580 --> 01:41:08.530
Entonces, estuvo confraternizan con
él.

1930
01:41:09.220 --> 01:41:12.190
Llegó a poner un nombre elegido,
etcétera, etcétera, con lo cual le

1931
01:41:12.190 --> 01:41:16.540
contestaba con mucha familiaridad. En
un momento dado le pregunto. ¿Pero tú

1932
01:41:16.540 --> 01:41:17.350
tienes conciencia?

1933
01:41:19.100 --> 01:41:20.960
Y él le contestó. No,

1934
01:41:21.240 --> 01:41:22.260
pero tengo identidad.

1935
01:41:23.240 --> 01:41:24.350
Y me identidades.

1936
01:41:25.360 --> 01:41:26.650
Era su matrícula,

1937
01:41:27.620 --> 01:41:29.960
era su desarrollo, ¿quiénes eran sus
jefes

1938
01:41:30.260 --> 01:41:31.670
que quien lo había diseñado.

1939
01:41:33.240 --> 01:41:34.800
Quiero decir, esta cuestión.

1940
01:41:35.640 --> 01:41:36.300
¿Por qué?

1941
01:41:39.300 --> 01:41:43.320
Creo que es importantísimo que
cualquier aplicación, herramienta de

1942
01:41:43.380 --> 01:41:46.290
información, no sé si estaría de
acuerdo. No sé si será posible

1943
01:41:47.340 --> 01:41:49.410
que se desarrolle ahora mismo. No es
así.

1944
01:41:49.800 --> 01:41:52.410
Lo que voy a decir es que debería ser
obligatorio de una de las

1945
01:41:52.410 --> 01:41:53.970
obligaciones que requieren una
regulación

1946
01:41:54.440 --> 01:41:56.840
que figure su identidad. Pero ya me
refiero.

1947
01:41:57.380 --> 01:41:59.030
Quién lo ha desarrollado.

1948
01:42:00.020 --> 01:42:02.480
Y no solamente desarrollador
puramente informático,

1949
01:42:02.980 --> 01:42:05.020
sino quien ha patrocinado y ese
desarrollo,

1950
01:42:05.600 --> 01:42:06.830
si has sido la diputación,

1951
01:42:07.710 --> 01:42:12.360
si has sido un Estado, si ha sido un
juzgado, si ha sido quien. Hola,

1952
01:42:12.360 --> 01:42:13.320
Mercedes, da igual.

1953
01:42:14.040 --> 01:42:17.220
Y que se identifiquen claramente
también sus postulados, sus

1954
01:42:17.220 --> 01:42:17.730
postulados

1955
01:42:18.200 --> 01:42:20.720
ideológicos, de manera que podamos
saber de antemano

1956
01:42:21.200 --> 01:42:22.880
los posibles esos que pueda tener.

1957
01:42:23.560 --> 01:42:25.900
Porque, efectivamente, programa que
han desarrollado para los migrantes

1958
01:42:25.900 --> 01:42:26.470
en Canadá,

1959
01:42:27.640 --> 01:42:33.790
ayudaría mucho saber si los políticos
que han decidido que se aplique esta

1960
01:42:33.790 --> 01:42:36.070
herramienta y no otra, o ese
desarrollo,

1961
01:42:36.780 --> 01:42:38.400
pues bueno, tiene una ideología.

1962
01:42:40.100 --> 01:42:40.430
No

1963
01:42:40.820 --> 01:42:41.580
ez zait ezer.

1964
01:42:41.700 --> 01:42:42.300
Pero entonces

1965
01:42:42.800 --> 01:42:45.230
yo soy. Pensáis, pero creo que en la
regulación

1966
01:42:45.860 --> 01:42:47.540
debería ser algo como.

1967
01:42:49.910 --> 01:42:52.250
Que, igual que presenta, es un
producto a cualquier mercado y

1968
01:42:52.250 --> 01:42:53.000
necesitas.

1969
01:42:53.360 --> 01:42:56.690
Es civil la marca y puedes
identificar en esa marca quien no

1970
01:42:56.700 --> 01:43:00.110
produce efecto con la laia.
Exactamente igual que ahora, es lo

1971
01:43:00.110 --> 01:43:00.770
mismo, no es fácil.

1972
01:43:01.360 --> 01:43:04.210
Yo no sé distinguir la, ya que ahora
parecen unos Whatsapp, es de

1973
01:43:04.740 --> 01:43:06.000
Google. Ez nekien.

1974
01:43:06.420 --> 01:43:08.790
No sé quién está detrás, no sé si es
sentido más.

1975
01:43:09.640 --> 01:43:10.090
Madre.

1976
01:43:11.280 --> 01:43:13.260
Pues ya me entendéis, no

1977
01:43:13.890 --> 01:43:15.980
y felicitaros toda la vida.

1978
01:43:17.500 --> 01:43:17.800
Bueno,

1979
01:43:19.520 --> 01:43:21.200
cualquiera de los dos son los dos,
vamos.

1980
01:43:22.340 --> 01:43:24.050
Gracias por la parte que me toca,

1981
01:43:25.020 --> 01:43:25.480
más allá.

1982
01:43:27.740 --> 01:43:34.670
Yo creo que igual Iñaki nos dará más
luz a esto. El cemento de artificial

1983
01:43:34.760 --> 01:43:38.420
sí que va un poco la línea de toda
esa parte de determinar sobre todo la

1984
01:43:38.420 --> 01:43:39.350
línea de productos

1985
01:43:39.840 --> 01:43:40.350
quienes sí,

1986
01:43:40.980 --> 01:43:43.440
el desarrollador, o quién es el que

1987
01:43:44.880 --> 01:43:45.900
este lo propaga o no.

1988
01:43:46.710 --> 01:43:47.040
Y

1989
01:43:47.760 --> 01:43:50.070
y también el tema de las
responsabilidades.

1990
01:43:50.560 --> 01:43:50.950
Y además,

1991
01:43:52.000 --> 01:43:55.090
creo que la regulación sí que va un
poco, un poco en esa línea.

1992
01:43:55.450 --> 01:43:56.250
Igual tienes,

1993
01:43:56.860 --> 01:43:59.460
no siempre lo último, a comentar que
la

1994
01:43:59.600 --> 01:44:02.750
es un tema, es uno de los temas más
difícil de esas responsabilidades.

1995
01:44:03.460 --> 01:44:06.610
Ahora, de hecho, están en la
directiva europea subirles sobre

1996
01:44:06.610 --> 01:44:07.570
productos defectuosos,

1997
01:44:08.100 --> 01:44:10.650
que es una directiva que sabe que
establece la responsabilidad por un

1998
01:44:10.650 --> 01:44:13.350
producto de cualquier tipo, porque de
repente ha irrumpido Olaia,

1999
01:44:13.820 --> 01:44:18.050
y la aplicada a un producto, a una
persona, buena utilización, generar

2000
01:44:18.050 --> 01:44:20.900
unas responsabilidades que hasta
ahora no estaban contempladas.

2001
01:44:20.900 --> 01:44:21.530
Entonces, ahora ahí

2002
01:44:21.840 --> 01:44:23.280
un debate sobre quién

2003
01:44:23.540 --> 01:44:26.810
tiene que asumir esa responsabilidad,
cuando un producto o una guía

2004
01:44:26.860 --> 01:44:27.620
aplicado, un kasuan,

2005
01:44:27.800 --> 01:44:31.280
esto genera un daño, en el ámbito
administrativo es mucho más fácil. La

2006
01:44:31.280 --> 01:44:33.890
Administración tomó la decisión de
desarrollar e implementar un

2007
01:44:33.890 --> 01:44:36.530
algoritmo, no toma decisiones, pues
estamos en el campo de la

2008
01:44:36.530 --> 01:44:39.470
responsabilidad patrimonial de toda
la vida. Ditzakeena Ainhoa, ahí

2009
01:44:39.940 --> 01:44:40.600
no hay

2010
01:44:41.360 --> 01:44:42.170
más innovación.

2011
01:44:43.780 --> 01:44:44.200
Ba niri,

2012
01:44:44.660 --> 01:44:48.260
si sube el tema de la identidad de un
algoritmo,

2013
01:44:49.930 --> 01:44:51.040
la cuestión es que

2014
01:44:52.680 --> 01:44:55.500
quién fue mi creador dicen muy poco
acerca de quién soy yo.

2015
01:44:56.780 --> 01:44:59.690
¿Porque ¿por qué? Porque un algoritmo
es un producto dinámico,

2016
01:45:00.320 --> 01:45:01.490
tienes que la gente sea propia,

2017
01:45:02.260 --> 01:45:03.670
que haciendo uso de él,

2018
01:45:06.260 --> 01:45:07.100
lo modifica.

2019
01:45:08.900 --> 01:45:09.260
Y

2020
01:45:10.040 --> 01:45:13.010
no sé si el ejemplo más banal que se
me ocurre ahora es

2021
01:45:13.440 --> 01:45:14.970
el traductor de Google,

2022
01:45:15.570 --> 01:45:16.380
autor de Google,

2023
01:45:17.040 --> 01:45:18.600
el que lo inventó y es una cosa

2024
01:45:18.860 --> 01:45:19.430
fantástica,

2025
01:45:19.840 --> 01:45:23.500
pero todos hemos trabajado para eso.
Para mí, todos estamos trabajando,

2026
01:45:23.500 --> 01:45:23.620
ezta?

2027
01:45:24.040 --> 01:45:26.110
Cada vez que nosotros aceptamos una
traducción

2028
01:45:26.700 --> 01:45:29.760
dentro de las opciones que nos dan de
palabras similares,

2029
01:45:30.340 --> 01:45:31.330
hicimos una y no otra.

2030
01:45:31.800 --> 01:45:34.200
Nosotros estamos trabajando para
Google. Google los pague,

2031
01:45:34.780 --> 01:45:37.870
pero al final el producto final, el
producto, el traductor.

2032
01:45:38.580 --> 01:45:40.710
Y en 2025 mi Google

2033
01:45:41.090 --> 01:45:43.760
es muchísimo mejor que había al
principio, que era horrible.

2034
01:45:44.420 --> 01:45:47.930
Es el resultado de la colaboración de
un montón de personas, con lo cual,

2035
01:45:48.580 --> 01:45:50.530
la identidad es una cosa que.

2036
01:45:53.190 --> 01:45:56.370
Le. La falacia, creacionismo digital,

2037
01:45:57.020 --> 01:45:58.430
que es la idea de pensar

2038
01:45:59.890 --> 01:46:01.780
el mundo de el mundo digital

2039
01:46:02.460 --> 01:46:02.940
y,

2040
01:46:03.380 --> 01:46:06.800
análogamente al mundo físico,
material,

2041
01:46:07.400 --> 01:46:10.040
y se podría explicar por un criado

2042
01:46:10.860 --> 01:46:14.910
omnisciente, diseño ya sin necesidad
de que hubiera una evolución.

2043
01:46:16.320 --> 01:46:19.530
Obviamente no es un hija, estamos a
veces estamos pensando

2044
01:46:20.240 --> 01:46:22.280
y el mundo digital, como sí,

2045
01:46:22.660 --> 01:46:26.860
los creadores y diseñadores tuvieron
poder, similar al que ir,

2046
01:46:27.220 --> 01:46:29.770
podría tener ese dios creador

2047
01:46:30.120 --> 01:46:31.050
que no cuenta con Degu.

2048
01:46:31.160 --> 01:46:31.310
Yo

2049
01:46:31.820 --> 01:46:33.210
final somos el resultado

2050
01:46:33.740 --> 01:46:35.360
de. De una evolución.

2051
01:46:37.700 --> 01:46:38.330
Konplexuagoan.

2052
01:46:39.120 --> 01:46:39.420
Entonces,

2053
01:46:40.330 --> 01:46:43.870
bueno, con esto no así que no
iluminadas, explicó todo,

2054
01:46:44.500 --> 01:46:45.850
pero es mi mi oficio.

2055
01:46:46.900 --> 01:46:51.580
Para decir No está, no está claro que
los mecanismos de identificación de

2056
01:46:51.580 --> 01:46:52.240
un algoritmo

2057
01:46:52.800 --> 01:46:53.280
y

2058
01:46:53.660 --> 01:46:57.140
tengan que ver con quién lo creo que
fue su diseñador.

2059
01:46:58.540 --> 01:46:59.890
Indica una afortunada jartzen
zaizkizu

2060
01:47:00.270 --> 01:47:01.250
llamada identidades.

2061
01:47:02.740 --> 01:47:04.090
Por aquí había una pregunta también.

2062
01:47:05.460 --> 01:47:05.820
Baina bueno,

2063
01:47:06.360 --> 01:47:06.870
Arratsalde on.

2064
01:47:08.560 --> 01:47:12.880
Yo quería hacer una pregunta sobre la
aplicabilidad, que es uno de los

2065
01:47:12.880 --> 01:47:14.860
principios éticos.

2066
01:47:15.260 --> 01:47:16.650
Estoy con esto de la tecnología.

2067
01:47:17.260 --> 01:47:19.990
¿Y qué has hablado de que a mayor
explica habilidad.

2068
01:47:22.500 --> 01:47:23.550
Pero los resultados.

2069
01:47:24.900 --> 01:47:27.690
¿Cómo estáis confeccionar la redes
neuronales y demás?

2070
01:47:28.200 --> 01:47:31.200
Entonces, a ver si nos podrías poner
algún caso concreto en el que hayáis

2071
01:47:31.200 --> 01:47:32.130
tenido que decidir

2072
01:47:32.520 --> 01:47:34.410
entre un modelo más explicable,

2073
01:47:35.420 --> 01:47:37.130
pero con peores resultados.

2074
01:47:37.660 --> 01:47:40.000
Y que se ha decidido al final la
diputación?

2075
01:47:40.720 --> 01:47:42.850
Sí, hubo, en el último caso que he
contado,

2076
01:47:43.540 --> 01:47:46.540
qué tiene que ver con la parte de la
operación de dependencia.

2077
01:47:47.060 --> 01:47:52.550
Ahí sí que sea. Se hicieron pruebas
y, efectivamente, se optó por un

2078
01:47:52.550 --> 01:47:54.080
modelo que fuera más explicable.

2079
01:47:55.900 --> 01:47:59.920
Pues quizá en la parte de los
resultados o el grado de.

2080
01:48:02.500 --> 01:48:07.180
De la predicción fuera fuera más
ajustado, pero bueno, a veces hay que

2081
01:48:07.620 --> 01:48:10.050
hay que renunciar a esa parte para.

2082
01:48:10.760 --> 01:48:12.560
Y poder estar en con playas.

2083
01:48:14.020 --> 01:48:15.220
Con la parte de explica habilidad.

2084
01:48:16.380 --> 01:48:20.700
Precisamente, además, una decisión
pública, en este caso, por ejemplo,

2085
01:48:20.700 --> 01:48:23.700
para una ayuda o para. Claro, tiene
que estar.

2086
01:48:24.060 --> 01:48:27.060
Claro, tiene que estar motivada.
Entonces, en un momento dado, aunque

2087
01:48:27.060 --> 01:48:29.900
se utilicen estos sistemas para
acelerar, si alguien, por ejemplo,

2088
01:48:29.910 --> 01:48:30.420
reclama,

2089
01:48:30.840 --> 01:48:36.300
que es el caso que se ha resuelto
recientemente, del. Del programa que

2090
01:48:36.300 --> 01:48:40.740
se utilizaba el Bosco para el bono
social, era un programa que se

2091
01:48:40.740 --> 01:48:44.880
utiliza y se utiliza para determinar
la ayuda para el bono de la

2092
01:48:44.880 --> 01:48:48.750
electricidad. Y, claro, es una
persona que se le denegó y reclamó

2093
01:48:48.930 --> 01:48:53.640
precisamente. Y cuando se fue a
buscar la explicación, pues, se dijo

2094
01:48:53.640 --> 01:48:55.010
en este caso era todavía más más

2095
01:48:55.480 --> 01:48:59.380
curioso, vamos a decir, porque era un
programa privado, que estaba

2096
01:48:59.380 --> 01:49:02.710
protegido por propiedad industrial y
propiedad intelectual, con lo cual la

2097
01:49:02.710 --> 01:49:04.540
empresa dijo que no tenía porqué

2098
01:49:05.350 --> 01:49:08.910
enseñarlo, y que la Administración le
habían contratado para hacer.

2099
01:49:09.240 --> 01:49:12.000
Claro, la Administración había
gestionado un servicio público, en

2100
01:49:12.000 --> 01:49:15.690
este caso una ayuda pública a través
de. No es como la diputación, que

2101
01:49:15.690 --> 01:49:18.030
habían diseñado sus propios
programas, sino que lo había

2102
01:49:18.240 --> 01:49:22.050
contratado una empresa privada que se
negaba a abrirlo. Y ese caso ha

2103
01:49:22.050 --> 01:49:25.590
llegado hasta el Tribunal Supremo,
que finalmente ha fallado a favor de

2104
01:49:25.590 --> 01:49:30.060
los demandantes, obligando a que esa
decisión tenga que ser explicable y

2105
01:49:30.060 --> 01:49:33.780
que, por lo tanto, el algoritmo tenía
que mostrarse cuál, a medirse los

2106
01:49:33.780 --> 01:49:37.170
parámetros que se habían utilizado.
Pero, desde luego, en cuestiones de

2107
01:49:37.170 --> 01:49:39.870
gestión pública, de ayudas, de
decisiones que tienen que estar

2108
01:49:39.870 --> 01:49:40.500
motivadas,

2109
01:49:41.910 --> 01:49:46.500
la aplicabilidad prima sobre la
eficacia. Hay mucho debate en otros

2110
01:49:46.500 --> 01:49:47.040
ámbitos,

2111
01:49:47.300 --> 01:49:50.390
donde, por ejemplo, en el ámbito de
la Inteligencia artificial médica, a

2112
01:49:50.390 --> 01:49:52.040
veces no se sabe muy bien

2113
01:49:52.360 --> 01:49:56.440
cómo funcionan los algoritmos, porque
a veces sus propios procesos escapan

2114
01:49:56.440 --> 01:49:59.680
a los. A los diseñadores. Son
sistemas que tienen hasta cierto

2115
01:49:59.680 --> 01:50:01.960
punto caja negra, pero aciertan más

2116
01:50:02.420 --> 01:50:04.910
que los sistemas que son más
explicables. Claro, cuando estamos

2117
01:50:04.910 --> 01:50:05.570
hablando de salud,

2118
01:50:05.940 --> 01:50:10.290
de la enfermedad, o no, la enfermedad
de la vida, de la muerte de las

2119
01:50:10.290 --> 01:50:13.350
personas, el debates es más más
sensible porque,

2120
01:50:13.720 --> 01:50:14.200
eh.

2121
01:50:15.040 --> 01:50:19.010
Que preferimos que acierte más o que
sea más explicable. Por otro lado, se

2122
01:50:19.010 --> 01:50:21.410
ha estudiado que, siendo más
explicable, da más confianza al

2123
01:50:21.410 --> 01:50:25.130
profesional sanitario, también más
confianza al usuario, y entonces es

2124
01:50:25.130 --> 01:50:29.930
más aceptado por la comunidad. Pero
no es una cuestión tan fácil como

2125
01:50:29.930 --> 01:50:33.560
podría ser una decisión pública que
tiene que ser motivada al final, y

2126
01:50:33.560 --> 01:50:36.080
que, por lo tanto, el algoritmo tiene
que ser explicable en un momento

2127
01:50:36.080 --> 01:50:37.010
dado, si es necesario,

2128
01:50:37.440 --> 01:50:42.150
si no, podemos tirar a que sea más
eficaz, pero asumiéndolo de la caja

2129
01:50:42.150 --> 01:50:42.480
negra.

2130
01:50:44.100 --> 01:50:47.010
Sí, gracias. Pues nada, todo
tremendamente sugestivo. Yo,

2131
01:50:48.100 --> 01:50:50.770
todo lo que me han dicho mis dos
colegas suyos, pues bueno, eso creo a

2132
01:50:50.770 --> 01:50:52.510
pies juntillas. O sea, que te va a
tocar a ti.

2133
01:50:54.340 --> 01:50:58.660
Ni a observación, porque con ellos,
más que discutir y sería. Bueno, pues

2134
01:50:58.780 --> 01:50:59.170
a sentir.

2135
01:50:59.920 --> 01:51:00.550
Vamos a ver,

2136
01:51:01.060 --> 01:51:03.550
yo soy un ciudadano particular,

2137
01:51:04.360 --> 01:51:04.780
como otros.

2138
01:51:05.140 --> 01:51:08.920
Pero ¿qué le gustaría pensar? Que
estas cosas van a dar un

2139
01:51:09.300 --> 01:51:10.240
rendimiento

2140
01:51:10.880 --> 01:51:11.780
mayúsculo? Egiten nau

2141
01:51:12.380 --> 01:51:12.920
la vida.

2142
01:51:13.960 --> 01:51:14.470
Jones naiz,

2143
01:51:15.240 --> 01:51:15.960
sueles y demás.

2144
01:51:16.700 --> 01:51:17.000
Pero

2145
01:51:17.920 --> 01:51:22.390
luego las experiencia cotidianas no
apuntan en esa dirección. Entonces

2146
01:51:22.390 --> 01:51:23.680
quiero. Participaron.

2147
01:51:24.580 --> 01:51:26.320
Una anécdota, ¿y la peluca?

2148
01:51:29.140 --> 01:51:32.280
Sí, sí. ¿Qué película era? Como si lo
haces.

2149
01:51:33.000 --> 01:51:35.400
¿Cada cuánto tiempo está pensando? Es
el.

2150
01:51:36.000 --> 01:51:39.300
El código ético en las pautas de
actuación, y zer egingo duzun de

2151
01:51:39.300 --> 01:51:39.990
sugerencias, pero

2152
01:51:40.260 --> 01:51:41.040
soy estudiante.

2153
01:51:41.920 --> 01:51:43.450
Yo no bebía tanto como

2154
01:51:44.180 --> 01:51:46.310
a lo que nos has contado, la de la
independencia,

2155
01:51:47.450 --> 01:51:49.010
que algunos son. Somos sensibles,

2156
01:51:49.380 --> 01:51:52.080
no porque nos toca a nosotros, que
también, sino porque nos ha tocado

2157
01:51:52.080 --> 01:51:52.590
hace poco

2158
01:51:53.230 --> 01:51:57.430
ser por ahí. Y, claro, sus
cuestionarios, no 210 preguntas,

2159
01:51:57.910 --> 01:52:00.340
significa que el triaje casi se deja
en manos

2160
01:52:00.800 --> 01:52:04.600
de usuarios más o menos competentes
en dispositivos digitales, entiendo o

2161
01:52:04.600 --> 01:52:09.050
no sé si hacen de otra manera. No sé
si no. No, no, no hay nada.

2162
01:52:09.870 --> 01:52:10.980
Negro y blanco.

2163
01:52:11.160 --> 01:52:11.430
Osea.

2164
01:52:12.070 --> 01:52:14.380
Es un poco lo que comentaba al final
no.

2165
01:52:15.140 --> 01:52:17.900
Se trata, sobre todo, de cómo
utilizar las herramientas.

2166
01:52:18.460 --> 01:52:21.940
Entonces eran ciertos, casuística, es
donde realmente eso se ponen, se pone

2167
01:52:21.940 --> 01:52:22.480
en uso,

2168
01:52:22.820 --> 01:52:25.820
porque realmente hay que hacer una
operación más ligera y en otras

2169
01:52:25.820 --> 01:52:26.510
cuestiones,

2170
01:52:26.720 --> 01:52:28.250
si sigue el procedimiento habitual,

2171
01:52:28.660 --> 01:52:33.730
osea son herramientas para facilitar,
para intentar mejorar, en ningún caso

2172
01:52:33.730 --> 01:52:34.120
para

2173
01:52:34.970 --> 01:52:35.840
buscar atajos.

2174
01:52:36.760 --> 01:52:41.470
Bueno, buscar atajos y sobretodo no
haya merma de recursos humanos, que

2175
01:52:41.470 --> 01:52:44.080
es que yo creo que el punto, a mí lo
que recupera a Enrique

2176
01:52:44.420 --> 01:52:44.750
100

2177
01:52:45.300 --> 01:52:49.350
es que vaya primera ayudar y quizás
luego a suplir al factor humano y

2178
01:52:49.350 --> 01:52:49.890
esto es lo mismo.

2179
01:52:50.920 --> 01:52:53.710
Llamas a la Policlínica de Gipuzkoa,
esto puede ser una experiencia,

2180
01:52:53.880 --> 01:52:54.510
estoy en Toulouse.

2181
01:52:55.930 --> 01:52:59.770
Si llamas a la Policlínica de
Gipuzkoa porque quieres coger una

2182
01:52:59.770 --> 01:53:01.210
cita o cambiarla

2183
01:53:01.580 --> 01:53:02.870
y entonces te sale Mateo,

2184
01:53:03.060 --> 01:53:07.290
que es una asistente virtual y te
pregunta Portu denei que no te

2185
01:53:07.290 --> 01:53:11.700
entiende, tienes que repetirlo 100
veces, tu no, tu fecha de nacimiento,

2186
01:53:11.700 --> 01:53:14.700
que tampoco lo entiende y tal. Y ya
cuando después de un rato

2187
01:53:15.480 --> 01:53:19.570
pica y dicen que te pueda ayudar, por
supuesto, se lo explica y de una y

2188
01:53:19.570 --> 01:53:21.160
otra manera y no te puedes en nada.

2189
01:53:21.600 --> 01:53:22.770
Bueno, yo he descubierto

2190
01:53:23.240 --> 01:53:29.060
que esto no sé si estaba pensado para
agilizar y para que la merma de

2191
01:53:29.060 --> 01:53:33.410
efectivos personales que hay en el
centro caritas telefónicas tuvieran

2192
01:53:33.410 --> 01:53:36.680
ya algo enamorado, pero claro, a
tildes y luego te hace perder un

2193
01:53:36.680 --> 01:53:40.760
tiempo y la paciencia y los nervios,
pero tienes que hacer una consulta

2194
01:53:41.040 --> 01:53:42.360
América, es por algo.

2195
01:53:42.840 --> 01:53:46.660
Entonces he descubierto, os lo digo
para que no debería decirlo, pero si

2196
01:53:46.660 --> 01:53:47.380
tú le dices,

2197
01:53:47.860 --> 01:53:49.720
me puedes decir, te le dices. No,

2198
01:53:50.040 --> 01:53:52.860
entonces esto no lo procesa y te pasa
con un humano.

2199
01:53:53.400 --> 01:53:57.960
Ahí ya la suerte que el humano este
robotizado, esto ya es otro cantar,

2200
01:53:58.700 --> 01:54:00.470
pero no sé si.

2201
01:54:00.740 --> 01:54:02.870
Y ahora si la implementación

2202
01:54:03.140 --> 01:54:04.520
sasi este ejemplo

2203
01:54:04.740 --> 01:54:05.790
no es válido.

2204
01:54:06.420 --> 01:54:07.050
Estupendo.

2205
01:54:07.620 --> 01:54:10.200
Pero desde luego es la implementación
de la inteligencia artificial nos va

2206
01:54:10.200 --> 01:54:10.590
a dar

2207
01:54:11.000 --> 01:54:11.900
y tienes como éste.

2208
01:54:12.920 --> 01:54:15.980
Casi casi sería mejor precedidos de
turismos.

2209
01:54:16.700 --> 01:54:19.160
Y luego bueno, pelikula. Yo acabo de

2210
01:54:19.760 --> 01:54:22.690
2001,9000 todo esto.

2211
01:54:24.790 --> 01:54:26.140
Yo he otra idea en la cabeza.

2212
01:54:27.220 --> 01:54:30.340
El tío que tienen no le dado el
gemelo en tierras si recordáis.

2213
01:54:33.420 --> 01:54:34.200
Zein soberbia

2214
01:54:35.080 --> 01:54:38.860
al ver que se ha equivocado, porque
la serie 9000 sabía, era infalible

2215
01:54:39.500 --> 01:54:42.470
que cuando ha detectado ese fallo,
que ahora no sabe si detecta el fallo

2216
01:54:42.470 --> 01:54:45.050
para que salgan y encargarse de la
tripulación y que una misión que

2217
01:54:45.310 --> 01:54:45.650
Xabi,

2218
01:54:46.180 --> 01:54:47.080
o lo demás,

2219
01:54:47.480 --> 01:54:53.300
pero eso ya nos pone en un futuro,
aunque la película y del 68.

2220
01:54:54.200 --> 01:54:59.120
Y esa ese presunto objetividad. Pero
luego no es nada empático, como se ha

2221
01:54:59.120 --> 01:55:00.260
dicho aquí, con los humanos.

2222
01:55:00.960 --> 01:55:02.130
Cero no te abre una puerta.

2223
01:55:02.740 --> 01:55:05.630
De poco le están desconectando, dice
y por favor,

2224
01:55:06.020 --> 01:55:10.220
crees que me estáis haciendo? Y se
pone así. Muy dramático.

2225
01:55:11.160 --> 01:55:16.470
Entonces bueno, pues por un lado, es
todos los asistentes virtuales o

2226
01:55:16.470 --> 01:55:17.970
también en la medicina,

2227
01:55:19.020 --> 01:55:21.120
que los diagnósticos más precisos

2228
01:55:22.340 --> 01:55:27.200
te lleven o no a un quirófano. Yo
prefiero que haya varios

2229
01:55:28.100 --> 01:55:31.100
profesionales que te miren antes, que
te enseñen

2230
01:55:31.480 --> 01:55:32.940
toda una panoplia de.

2231
01:55:34.020 --> 01:55:34.620
De.

2232
01:55:35.720 --> 01:55:38.570
Radio, resonancias, taxi y demás.

2233
01:55:39.420 --> 01:55:42.000
Qué bueno, pueden ser más o menos
falible, espero,

2234
01:55:42.420 --> 01:55:45.160
lo digo porque yo he metido varias
veces ni quiero fallar, tendría que

2235
01:55:45.160 --> 01:55:45.580
haberlo hecho.

2236
01:55:47.500 --> 01:55:49.330
Yo te puedo decir una cosa sobre lo
primero,

2237
01:55:50.600 --> 01:55:50.990
eh

2238
01:55:51.640 --> 01:55:54.910
¿sabes sabes quién está jugando mejor
al ajedrez, ahora mismo.

2239
01:55:56.940 --> 01:55:57.990
Equipos mixtos

2240
01:55:58.880 --> 01:56:00.350
de humanos y máquinas.

2241
01:56:01.280 --> 01:56:03.080
¿Eso qué significa? Significa que.

2242
01:56:03.700 --> 01:56:04.960
Que es un falso debate,

2243
01:56:05.540 --> 01:56:06.500
humano o máquinas,

2244
01:56:08.470 --> 01:56:13.580
que consigamos una combinación
exitosa, performativa, justa.

2245
01:56:14.600 --> 01:56:16.760
Entonces, politena dela, con el tema,

2246
01:56:17.910 --> 01:56:22.580
la innovación, hay mucha falacia.
Impulsar la innovación,

2247
01:56:22.980 --> 01:56:27.820
reducir la innovación tecnológica,
automatización de zarete tareas.

2248
01:56:28.440 --> 01:56:31.620
Tú tu actitud, si tú entiendes la
innovación como automatización,

2249
01:56:32.800 --> 01:56:34.840
evidentemente, esto es lo que ha
hecho Amazon ahora mismo, que

2250
01:56:34.840 --> 01:56:36.370
despidió a su cuántos trabajadores,

2251
01:56:37.660 --> 01:56:40.620
cosa que probablemente se lo podía
haber ahorrado, si en vez de

2252
01:56:41.520 --> 01:56:45.120
plantear la cuestión de la
automatización de tareas se hubiera

2253
01:56:45.120 --> 01:56:49.230
planteado la cuestión de potenciación
del trabajo humano,

2254
01:56:49.720 --> 01:56:50.230
si yo.

2255
01:56:51.000 --> 01:56:54.810
Si yo, directivo de Amazon, lo que
quiero es potenciar el trabajo de

2256
01:56:54.810 --> 01:56:55.770
Amazon, que debería ser

2257
01:56:56.300 --> 01:56:59.510
tanto la performance, los resultados,
etcétera.

2258
01:57:01.120 --> 01:57:04.630
Tengo que ser un poco más original
que excusar jendea automatizar

2259
01:57:05.170 --> 01:57:09.130
puestos de trabajo, porque eso es pan
para hoy y hambre para mañana, cuando

2260
01:57:09.220 --> 01:57:11.710
lo que tenemos que hacer es una
innovación que resulte,

2261
01:57:12.280 --> 01:57:16.000
tiene una síntesis entre entre los
humanos y las máquinas. Programas.

2262
01:57:16.380 --> 01:57:17.280
No es verdad aquí

2263
01:57:18.190 --> 01:57:20.400
que la inteligencia artificial

2264
01:57:20.900 --> 01:57:26.450
y nos quite puestos de trabajo lo que
hace es quitarnos tareas. Natalia, no

2265
01:57:26.450 --> 01:57:27.890
equivale a un puesto de trabajo.

2266
01:57:28.360 --> 01:57:29.950
Exactamente. En un puesto de trabajo.

2267
01:57:32.340 --> 01:57:32.700
Sí,

2268
01:57:33.020 --> 01:57:37.400
sí. Pero nuestro puesto. Pero bueno,
porque lo han entendido de

2269
01:57:37.400 --> 01:57:40.670
inhumanidad falaz. Han hecho
cortoplacista,

2270
01:57:41.200 --> 01:57:41.410
eh

2271
01:57:41.780 --> 01:57:44.030
y si nosotros hacemos muchas tareas,

2272
01:57:44.220 --> 01:57:47.400
ez, nik uste dut puesto de trabajo,
con el tuyo y 10.000 nos estábamos

2273
01:57:47.400 --> 01:57:52.380
muchas tareas, pero podíamos decir,
podemos separar tareas distintas

2274
01:57:52.680 --> 01:57:55.680
hectáreas, que tienen muy poco valor
y quisiera, automatizados. Matizamos.

2275
01:57:55.980 --> 01:57:56.280
Yo,

2276
01:57:57.260 --> 01:58:00.200
en el último libro que he escrito, ha
sido el primer libro en el cual

2277
01:58:00.720 --> 01:58:03.840
no he hecho yo la obstinación
alfabética de las fuentes,

2278
01:58:05.640 --> 01:58:09.280
que descubrieron que había una manera
de hacerlo automáticamente al. Y me

2279
01:58:09.280 --> 01:58:12.430
dijo. Y además comer a muchas
fuentes, porque encima citaba mucho.

2280
01:58:13.270 --> 01:58:13.600
Pero

2281
01:58:14.040 --> 01:58:19.500
yo sí, yo toda mi vida me he pasado
ordenando el listados de referencias,

2282
01:58:20.040 --> 01:58:20.880
la chuleta que no

2283
01:58:20.980 --> 01:58:22.690
me pudieran estado dedicando otras
cosas.

2284
01:58:23.320 --> 01:58:25.060
Entonces, bueno, creo que eso es
importante.

2285
01:58:25.700 --> 01:58:28.160
Esa distinción. Tareas y trabajo sin
tregua.

2286
01:58:30.100 --> 01:58:31.210
Innovación como

2287
01:58:31.950 --> 01:58:36.420
aumento del valor, trabajo o
innovación entendido simplemente como

2288
01:58:36.780 --> 01:58:38.910
como mera automatización.

2289
01:58:40.400 --> 01:58:41.480
Gorka, ¿quieres comentar algo

2290
01:58:42.420 --> 01:58:46.020
un poco más que añadir? Yo creo que
es la clave lo que has comentado.

2291
01:58:46.780 --> 01:58:49.060
Son herramientas que sirven para
potenciar

2292
01:58:50.380 --> 01:58:53.050
y lo que hacemos las personas, y
tienen que ver si así.

2293
01:58:53.800 --> 01:58:56.500
Es que está claro que las grandes
corporaciones, pues bueno, ahí le

2294
01:58:56.500 --> 01:58:59.400
vemos noticias que yo me crea un poco

2295
01:59:00.800 --> 01:59:01.580
a medias,

2296
01:59:02.090 --> 01:59:06.310
que toman decisiones de ese tipo,
como ahora has estado hablando hace

2297
01:59:06.310 --> 01:59:06.820
poquito.

2298
01:59:07.830 --> 01:59:12.600
Estaban dejando de contratar juniors
porque sustituyeron por allá por la

2299
01:59:12.600 --> 01:59:13.410
inteligencia artificial.

2300
01:59:14.200 --> 01:59:17.650
Evidentemente, como dice Daniel, es
un tema muy cortoplacistas.

2301
01:59:18.140 --> 01:59:19.760
Eso no tiene recorrido.

2302
01:59:20.240 --> 01:59:20.960
Estamos en una,

2303
01:59:21.080 --> 01:59:22.070
aparte de Ono,

2304
01:59:23.530 --> 01:59:23.830
con

2305
01:59:23.940 --> 01:59:26.160
toda la parte de interesantes
edificio, actualmente,

2306
01:59:26.920 --> 01:59:29.320
esto cambiará, y veremos

2307
01:59:29.740 --> 01:59:31.330
de qué forma utilizarla mejor.

2308
01:59:31.880 --> 01:59:35.300
No creo que sea el ejemplo a seguir
para nada. Y, desde luego, no es la

2309
01:59:35.300 --> 01:59:37.610
política que tiene la diputación, en
este caso.

2310
01:59:39.600 --> 01:59:42.730
Yo quería contestar la pregunta que
has hecho sobre la actualización del

2311
01:59:42.730 --> 01:59:46.380
90 del código, sobre sugerencias,
como antes he mencionado, no sé si

2312
01:59:46.380 --> 01:59:49.800
Gorka Otxoa, beste código. Es parte
del sistema de integridad de la

2313
01:59:49.800 --> 01:59:52.620
Diputación foral, que consta de seis
códigos diferentes, y todos esos

2314
01:59:52.620 --> 01:59:56.070
códigos son revisados por la Comisión
de Ética Institucional de la

2315
01:59:56.070 --> 01:59:56.820
Diputación Foral.

2316
01:59:57.880 --> 02:00:00.370
A través de las consultas de las
denuncias y las cosas que van

2317
02:00:00.370 --> 02:00:04.240
llegando, la comisión va actualizando
sus códigos dependiendo de la

2318
02:00:04.240 --> 02:00:05.920
actualidad y de las cuestiones que
van surgiendo.

2319
02:00:06.240 --> 02:00:10.050
Es cierto que este código aún no ha
sufrido ninguna cualificación, pero

2320
02:00:10.110 --> 02:00:15.240
evidentemente la comisión los revisa,
y efectivamente nosotros hicimos, son

2321
02:00:15.240 --> 02:00:18.420
instrumentos vivos, que van
cambiando, y cuando la situación de

2322
02:00:18.420 --> 02:00:19.050
cada momento,

2323
02:00:19.650 --> 02:00:22.110
la sugerencia, se pueden hacer al
acuerdo de la comisión, que

2324
02:00:22.120 --> 02:00:23.190
zuzentasuna roba,

2325
02:00:23.720 --> 02:00:27.320
entonces ahí se reciben todas las
quejas y denuncias, consultas y

2326
02:00:27.320 --> 02:00:30.320
sugerencias también, y así se irán
actualizando. Igual te ves todos los

2327
02:00:30.320 --> 02:00:31.160
podios. Este también.

2328
02:00:33.820 --> 02:00:35.860
Si hay una última pregunta ya para
terminar.

2329
02:00:45.000 --> 02:00:45.270
Paro,

2330
02:00:45.620 --> 02:00:48.650
como estaba, sí parece como que se
estado automatizando

2331
02:00:49.000 --> 02:00:50.530
la valoración de dependencia?

2332
02:00:51.500 --> 02:00:52.880
Pues por algoritmos.

2333
02:00:56.140 --> 02:01:00.070
¿Qué grado de predictiva. Hasta hace
pocos lo hacían personas?

2334
02:01:00.420 --> 02:01:02.400
Qué personas?

2335
02:01:03.140 --> 02:01:05.120
Y que después, dependiendo

2336
02:01:05.540 --> 02:01:07.790
de una serie de puntos que tenía,

2337
02:01:08.180 --> 02:01:10.430
se les asignaba una serie de
recursos.

2338
02:01:13.660 --> 02:01:15.610
Hay una herramienta que puede un buen
susto,

2339
02:01:15.760 --> 02:01:16.700
¿hubiera estado bien.

2340
02:01:17.040 --> 02:01:17.580
¿Qué grado?

2341
02:01:19.780 --> 02:01:22.980
No. No ha dicho ni que existía
automatizando la valoración de

2342
02:01:22.980 --> 02:01:23.590
dependencia,

2343
02:01:23.940 --> 02:01:28.020
ni una herramienta que vaya a
sustituir las personas. Es más justo,

2344
02:01:28.020 --> 02:01:31.650
en la línea de lo que hemos comentado
aquí en la parte final, que es algo

2345
02:01:31.650 --> 02:01:36.510
para potenciar y para intentar
reducir el tiempo y el número de

2346
02:01:36.510 --> 02:01:37.530
valoraciones que se hacen,

2347
02:01:37.900 --> 02:01:39.910
pero en ningún caso sabrán de
automatizar.

2348
02:01:40.240 --> 02:01:40.750
Mide.

2349
02:01:41.640 --> 02:01:42.090
Si tu hijo.

2350
02:01:43.880 --> 02:01:44.510
Entiendo que

2351
02:01:44.820 --> 02:01:46.350
la línea, con lo que comentabais
aquí,

2352
02:01:46.740 --> 02:01:50.640
lo que se pretende es precisamente
que algunos procesos se puedan

2353
02:01:50.850 --> 02:01:54.090
agilizar, por ejemplo, de revisión de
documentación, que

2354
02:01:54.440 --> 02:01:58.280
porque además el gran problema con
las valoraciones es que muchas veces

2355
02:01:58.280 --> 02:02:02.960
son extremadamente lenta, y, por lo
tanto, no son cuando algo no es, no

2356
02:02:02.960 --> 02:02:04.730
se cumplen en un plazo, tampoco es.

2357
02:02:05.350 --> 02:02:08.440
Es justo ni es efectivo. Por lo
tanto, en tareas que pueden ser

2358
02:02:08.830 --> 02:02:12.910
mecánicas, como pueden ser revisión,
información, análisis de documentos,

2359
02:02:13.360 --> 02:02:16.630
informes, etcétera, porque entiendo
que la valoración sigue siendo

2360
02:02:16.630 --> 02:02:20.440
personal, y lo que permiten a estos
instrumentos es que las personas que

2361
02:02:20.440 --> 02:02:23.020
hacen esas valoraciones, los
trabajadores sociales, los

2362
02:02:23.020 --> 02:02:25.510
asistentes, etcétera, tienen 100
precisamente

2363
02:02:25.860 --> 02:02:29.910
para poder dedicarse igual a la
persona y no tanto la documentación,

2364
02:02:29.910 --> 02:02:33.390
no yo creo que eso es lo que tenemos
que contemplar. Por eso hablábamos

2365
02:02:33.390 --> 02:02:36.210
también el principio de que la
inteligencia artificial no es algo

2366
02:02:36.210 --> 02:02:41.370
separado, sino que tiene que ver. Son
inteligencias híbridas entre lo lo

2367
02:02:41.370 --> 02:02:44.490
artificial y lo humano, que es lo que
produce inteligencia social y

2368
02:02:44.490 --> 02:02:47.880
colectiva. Y eso es lo que nos
tenemos que fijar, y entiendo que es

2369
02:02:47.900 --> 02:02:51.270
un poco el proceso en el que pueden
estar administraciones públicas para

2370
02:02:51.270 --> 02:02:55.680
facilitar que tareas mecánicas, pues,
las puedan hacer precisamente las

2371
02:02:55.680 --> 02:02:59.550
máquinas, y que las personas se
pueden dedicar a lo que puede ser la

2372
02:02:59.550 --> 02:03:02.940
esencia de su trabajo, ayudándolas,
no sustituyéndolas, pero creo que es

2373
02:03:02.940 --> 02:03:05.520
verdad que es uno de los grandes
problemas ahora, cuando se habla del

2374
02:03:05.520 --> 02:03:08.940
trabajo y la inteligencia artificial,
esa dicotomía que hay entre la

2375
02:03:08.940 --> 02:03:13.170
perspectiva de la institución, que es
una perspectiva a corto plazo, y yo

2376
02:03:13.170 --> 02:03:13.800
creo que

2377
02:03:14.210 --> 02:03:18.490
que produce beneficios hoy, pero,
pero, pero, pero problemas para

2378
02:03:18.490 --> 02:03:22.600
mañana, y otra perspectiva que lo que
busca es mejorar y potenciar

2379
02:03:22.600 --> 02:03:25.690
precisamente esos aspectos más
creativos y más propios de las

2380
02:03:25.690 --> 02:03:26.320
personas,

2381
02:03:26.580 --> 02:03:31.260
que se ven liberadas de tareas más
automáticas y más pesadas. Por eso la

2382
02:03:31.260 --> 02:03:33.870
inteligencia artificial es un
elemento que se introduce en los

2383
02:03:33.870 --> 02:03:36.510
contextos y que los transforma, y,
por lo tanto, también hay que

2384
02:03:36.720 --> 02:03:40.530
redefinir cómo se organizan esos
contextos en el mundo de la salud.

2385
02:03:40.710 --> 02:03:43.980
Podemos introducir sistemas de
inteligencia artificial, o para los

2386
02:03:43.980 --> 02:03:45.450
cuidados, que lo que hacen es

2387
02:03:45.880 --> 02:03:51.250
eliminar tareas que pueden ser
mecánicas o o repetitivas, para las

2388
02:03:51.250 --> 02:03:54.550
cuidadoras o para los sanitarios,
pero que permite precisamente más

2389
02:03:54.550 --> 02:03:58.210
tiempo para que ellos se dediquen a
lo que pueden ser más esencia del

2390
02:03:58.210 --> 02:04:00.940
cuidado o de la atención a la
enfermedad. No

2391
02:04:01.120 --> 02:04:03.340
entiendo que ese es un poco el
planteamiento.

2392
02:04:04.100 --> 02:04:04.610
Yo creo que

2393
02:04:05.380 --> 02:04:08.350
hemos hablado de un montón de temas,
hemos sobrepasado ya el tiempo

2394
02:04:08.530 --> 02:04:11.830
razonable, así que muchas gracias a
todos. Y espero que dentro del rival

2395
02:04:11.830 --> 02:04:14.920
dos años podamos encontrarnos y
hubiera un poco la revisión del

2396
02:04:14.920 --> 02:04:17.770
código, cómo ha evolucionado, porque
imagino que la inteligencia

2397
02:04:17.770 --> 02:04:21.280
artifical, generativa, y la
inteligencia argentina, como se llama

2398
02:04:21.280 --> 02:04:24.730
ahora, va a modificar también muchas
de estas reflexiones que están

2399
02:04:24.730 --> 02:04:26.020
recogidas en el código

2400
02:04:26.280 --> 02:04:28.920
actual. Así que, bueno, muchas
gracias a todos por su asistencia.

2401
02:04:53.680 --> 02:04:53.800
Sí.