[自行打包] 个人收集精品杂图3 [2500p+9.1g][百度盘]

西域烤鱼干

tinbg 发表于 2024-7-12 19:13
4 y! H0 g- [# l3 C/ u大哥，你这个头像很爱啊，像ai又想vam，有没有出处

; S; i# S0 w. a0 g/ o抖音上有很多

uuuuyyyyy

为啥我一直密码错误ヽ(`Д´)ﾉ

不如离弃

好看

cndeng

感谢分享，大佬辛苦了。

lattess

有一部分图重复了，写了一段代码来解决这个问题，有一张图片似乎有问题，困扰了我好久为什么一直报错，求哈希值函数加个异常解决了，大家可以留着以后备用lol
5 Q3 b5 v- S' m6 h; Aimport os
5 Q0 B- [: D+ |4 Mimport imagehash
from PIL import Image

def compute_image_hash(image_path):
    # image = Image.open(image_path)
    # return imagehash.average_hash(image)
) ]) L7 X! m9 e) }: X/ u    try:
        with Image.open(image_path) as image:
+ w8 H5 X9 P1 x( T* r7 r0 F            return imagehash.average_hash(image)
1 F% v" L! u* x2 P. ?    except (OSError, IOError) as e:
        print(f"处理图像 {image_path} 时出错: {e}")
9 L- ]2 k$ q/ [! S5 ~% Z6 E        return None

def remove_duplicates(image_folder):
    hash_dict = {}
1 [0 c  x: C; h    duplicates = []
4 T0 j, R1 T0 H4 H, }/ i8 l3 W) H
! N4 [. e  B2 k3 o    for filename in os.listdir(image_folder):
        if filename.endswith(('.png', '.jpg', '.jpeg', '.bmp', '.gif')):
            image_path = image_folder + "\\" + filename
( s: c( t4 M1 |7 e4 A            image_hash = compute_image_hash(image_path)

6 K7 w1 @' i: K6 q5 r/ S8 A; p            if image_hash in hash_dict:
8 e- {! W+ w! D# K4 I# N8 p9 H2 K                duplicates.append(image_path)
) j. @; w$ d; Y, Y9 V            else:
                hash_dict[image_hash] = image_path
# F1 Q2 B4 s. p. L$ H, q! h        else:
5 J& S" @, ^/ k4 I$ g            pass
+ m4 q/ u  i8 ]; P% C/ o/ M  ?) x
& N# o: R6 x; @    for duplicate in duplicates:
  z2 K0 c0 g- ~        os.remove(duplicate)
" f! l( o) ^+ ]2 V) b        print(f"Removed duplicate image: {duplicate}")

* m; H/ `) ^: s    print("Duplicate removal complete.")

image_folder = 'D:/data/baidu/去重训练文件夹' #换成自己的文件夹
4 G1 T$ a; m0 u9 Y) P1 Oremove_duplicates(image_folder)

lattess

lattess 发表于 2024-7-23 16:25
有一部分图重复了，写了一段代码来解决这个问题，有一张图片似乎有问题，困扰了我好久为什么一直报错，求哈 ...

  N0 `. g, F; e$ o0 ~2 G" ~有问题的图片名为1558571_114.png

一言九鼎

tinbg 发表于 2024-7-12 19:13
( q& F  F* Z  J, R2 y$ _大哥，你这个头像很爱啊，像ai又想vam，有没有出处

" b$ |* K% y/ D- K. E5 V* w$ u: i一眼ai
7 D  M! O+ R: o5 q